채용 후보 골라주는 AI…뉴욕시, 미국서 첫 규제 시작

기업들이 채용 과정에서 사용하는 인공지능(AI)이나 자동화 프로그램을 규제하는 법이 미국 최초로 뉴욕에서 도입됐다. 5일(현지시간) 월스트리트저널(WSJ)에 따르면 이날부터 시행된 ‘NYC 144’법은 2021년 뉴욕 시의회에서 가결됐으며 여론 수렴 과정을 거쳐 2년 만에 발효됐다.

NYC 144에 따르면 AI 챗봇 인터뷰 툴, 이력서 스캐너처럼 채용·승진 결정을 돕는 특정 소프트웨어(SW)를 쓰는 기업들은 해당 SW가 인종·성(性) 차별 가능성이 있는지 매년 감사해 홈페이지에 그 결과를 의무적으로 공개해야 한다. 위반하는 기업엔 하루 1건당 최대 1500달러(약 195만원) 벌금이 부과된다.

이 법에 따라 뉴욕시 거주자를 고용하는 기업들은 채용·승진 결정 과정에서 쓰이는 SW를 점검해 ‘불리 효과’(채용·승진 등 인사 평가 과정에서 특정 집단에 불리한 평가를 해 차별이 발생하는 현상) 비율을 공표해야 한다. 비율은 0~1 사이로 1에 가까울수록 차별이 거의 없음을 의미한다. 예를 들어 여성에 대한 불리 효과율이 0.3이면 남성 구직자 10명이 채용 심사 통과 시 여성은 3명만 통과한다는 뜻이다.

그간 미국 기업에선 온라인 구직이 일반화되면서 자동화 채용 SW에 주로 의존해왔다. 특히 2008년 금융위기 당시 해고됐던 많은 이들이 재취업을 위한 이력서를 쏟아내자 기업의 SW 의존도는 더 높아졌다.

하지만 기업에서 흔히 쓰는 채용 SW가 여성·유색인종 등 소수 집단을 차별할 가능성이 있다는 우려가 컸다. WSJ는 실제로 전자상거래 기업 아마존이 엔지니어에 의뢰해 개발한 채용 알고리즘이 일부 여자 대학을 졸업한 여성 지원자들을 자동 탈락시키는 등 부작용이 초래돼 결국 사용을 중단한 사례가 있었다고 전했다. 여기에 더해 최근 챗GPT 등 생성형 AI가 널리 쓰이게 되면서 AI가 범할 수 있는 편견·차별 가능성에 대한 우려의 목소리가 높은 상황이다.

WSJ는 “이번 법은 채용 과정의 투명성 확보를 의무화하고 차별을 뿌리 뽑기 위한 것”이라고 평했다. 현재 워싱턴DC, 캘리포니아주, 코네티컷주에서도 NYC 144와 비슷한 법안이 발의돼 있다.

미국·유럽에선 AI에 관한 규제 논의가 활발하다. 앞서 지난달 척 슈머 민주당 상원 원내대표는 “미국이 AI가 나아갈 길의 규칙을 만들어야 한다”면서 AI 규제를 위한 포괄적인 입법안인 ‘SAFE(보안·책임·민주적 토대·설명 가능성을 뜻함)’를 제안했다.

유럽연합(EU)은 지난달 14일 세계 최초의 AI 규제법 도입을 위한 협상안을 가결했다. 초안에는 생성형 AI의 투명성과 안전성을 강화하는 규정이 들어갔다. 또 AI가 생성한 콘텐트에는 창작자가 인간이 아님을 명시하고, AI가 불법 콘텐트를 만들지 못하도록 안전장치를 마련하라는 내용 등이 담겼다.

인종·성차별 등에 대한 각국의 규제도 강화되는 추세다. 루이스 이나시우 룰라 다시우바 브라질 대통령은 지난 3일 남녀 동일 임금 의무화법안에 서명했다. 이 법안에 따라 브라질 기업에서는 성별·인종·출신·연령 등에 따른 임금 차별이 확인될 경우 피해자에 임금 차액을 지급해야 한다. 위반 시 기업에 해당 직원 임금의 10배만큼 벌금을 부과할 방침이다.

서유진 기자 suh.youjin@joongang.co.kr