뉴욕시, 인력 채용시 AI 활용 규제안 마련…”잠재적 차별 가능성 공개해야”

기업이 채용 과정에서 사용하는 인공지능(AI) 관련 도구를 규제하는 법안이 미국 뉴욕시에서 최초로 시행될 예정이다. 다만, 해당 법안은 AI 도구 사용 자체를 규제하기보다 고용주가 AI 도구를 이용해 인종과 성차별을 하지 않는지 등 사용에 있어 투명성을 높이는 데 초점을 맞추고 있다.

5일(이하 현지 시각) 월스트리트저널(WSJ)은 뉴욕시가 ‘NYC 144′라는 법안을 오는 6일 발효할 예정이라고 보도했다. NYC 144는 지난 2021년 뉴욕시의회를 통과했고, 2년여 동안 여론 수렴 등을 거친 끝에 발효된다.

인공지능(AI) 일러스트. / 로이터

이에 따라 앞으로 채용과 승진을 결정할 때 챗봇 인터뷰, 이력서 스캐너 같은 AI 소프트웨어를 사용하는 기업은 매년 AI 관련 도구가 인종과 성별을 차별하지 않는지 감사해 그 결과를 홈페이지에 게시해야 한다. 뉴욕시에 거주하는 고용주가 AI 소프트웨어에 대한 감사와 결과 공개 의무를 행하지 않을 경우, 건당 하루 최대 1500달러(약 195만3300원)의 벌금을 내야 한다. WSJ는 “뉴욕시는 AI 소프트웨어 자체를 규제하는 것보다 투명성을 높이는 데 중점을 뒀다”고 설명했다.

구체적으로 살펴보면, 고용주는 채용 과정에서 특정 소수 집단에 불리한 평가나 차별이 발생했는지 여부를 보여주는 비율을 공개해야 한다. 수치는 0~1 사이에서 표시되며, 1에 가까울수록 차별이 거의 없거나 전혀 없다는 것을 나타낸다. 0에 가까울수록 그 반대다. 예를 들어 0.3은 10명의 남성 후보자가 채용 과정을 통과할 때마다 여성 후보자는 3명만 통과한다는 것을 보여준다.

지난 20년 동안 기업은 온라인 지원자가 늘자, 채용 과정에 소프트웨어를 도입했다. 특히 2008년 글로벌 금융위기 이후 실업률이 급증하면서 이력서를 내는 사람이 많아지자, 지원자를 분류하고 선별하는 기술에 대한 투자를 늘렸다.

하지만 동시에 여성이나 유색 인종 등 소수 집단을 차별할 수 있다는 우려도 커졌다. 약 10년 전, 미국 거대 정보통신(IT) 기업 아마존에서 일하던 한 소프트웨어 엔지니어가 10년간 누적된 지원서를 분석해 배경이 유사한 지원자를 찾는 채용 알고리즘을 개발한 적이 있다. 해당 알고리즘 개발 당시 대부분의 지원자는 남성이었다. 때문에 채용 알고리즘은 여대를 졸업한 여성 지원자들에게 낮은 점수를 주는 현상이 발생하기도 했다. 이에 아마존은 채용 알고리즘 사용을 중단했다.

한편, 뉴욕시 외에 워싱턴DC, 캘리포니아, 코네티컷 등에서 채용 관련 소프트웨어의 편향성을 낮추는 것을 지향하는 법안이 입법을 기다리고 있다.

- Copyright ⓒ 조선비즈 & Chosun.com -