뉴욕시 "기업 채용·승진에 AI사용 규제...차별 가능성 공개해야"

미국 뉴욕시가 기업들의 채용·승진 결정 과정에서 인공지능(AI) 사용을 처음으로 규제하고 나섰다. 기업들이 구직자나 직원에게 AI 소프트웨어 사용 사실을 공지하는 한편, 매년 인종·성 차별 가능성을 감사해 그 결과를 공개하도록 한 내용이 골자다. 미국 내에서 채용 결정 시 AI 사용을 규제한 법안은 이번이 최초다.

[이미지출처=로이터연합뉴스]

월스트리트저널(WSJ) 등에 따르면 뉴욕시는 5일(현지시간)부터 이러한 내용의 'NYC 144' 법안을 시행한다. 2021년 뉴욕시의회를 통과해 2년가량 여론 수렴을 거친 이 법안은 챗봇 인터뷰 툴, 이력서 스캐너 등 AI 소프트웨어를 사용하는 기업들의 채용·승진 과정에서 편향된 결정이나 잠재적 차별이 발생할 가능성을 낮추기 위해 마련됐다.

이에 따라 고용주들은 해당 AI 소프트웨어를 사용하고 있다는 사실을 일정 기한 이전에 구직자, 직원들에게 의무적으로 통보해야 한다. 또한 고용 및 승진 결정 과정에서 해당 소프트웨어를 점검해 특정 인종, 성별에 불리한 평가나 차별이 발생하는지, 이른바 '불리 효과' 비율도 매년 공개해야만 한다. 이를 어길 경우 고용주는 건당 하루 최대 1500만달러의 벌금을 물게 된다.

연방 평등고용기회위원회 출신이자 노동컨설팅회사 리졸루션 이코노믹스 소속 파트너인 빅토리아 립닉은 "불리 효과 비율을 확인한 고용주가 어떤 식으로든 대처에 나설 수 있다는 가정이 담겨 있다"며 "꽤 큰 가정이지만, 첫 단계"라고 평가했다.

구직자나 직원은 불리 효과 비율만으로 기업을 고소하지는 못한다. 하지만 지역 및 연방법에 따라 제기된 각종 차별 관련 소송에서 이를 잠재적 증거로 사용할수는 있다. 해당 비율은 0~1 사이에서 매겨지며, 1에 가까울수록 차별이 거의 없음을 의미한다. WSJ는 "여성에 대한 불리 효과 비율이 0.3이라면, 이는 남성 구직자 10명이 구직 전형을 통과할 때 여성 구직자는 3명이라는 뜻"이라고 설명했다.

다만 0에 가까운 낮은 비율이 무조건 차별을 의미하는 것은 아니다. 고용 기준이 직무와 관련됐는지, 비즈니스 필요성과 일치하는지가 더 중요한 역할을 하기 때문이다. 일례로 WSJ는 흑인·라티노들이 백인·아시아계 미국인보다 대학 졸업률이 낮다는 점을 언급하면서 만약 대학 학위가 필수요건인 직종일 경우 흑인·라티노들의 낮은 비율에 대한 문제가 제기되더라도 기업이 충분히 변호할 수 있다고 전했다.

최근 몇 년간 AI 기술 발달, 온라인 구직 지원 확산 등으로 채용·승진 결정 과정에서 시간과 비용을 절약할 수 있는 AI 소프트웨어에 의존하는 기업들은 많이 증가한 상태다. 하지만 동시에 기업들이 사용하는 AI 소프트웨어가 고정관념을 오히려 증폭시키고 소수집단에 대한 편향된 결정을 내리게 할 수 있다는 우려의 목소리도 높아졌다. 특히 챗 GPT와 같은 생성형 AI 열풍은 이러한 우려를 더욱 확산시켰다. 과거 아마존은 시범적으로 채용 알고리즘을 사용하는 과정에서 여대 졸업생 지원자를 배제했던 사실을 뒤늦게 알아챈 후, 해당 프로그램 사용을 중단하기도 했다.

현재 뉴욕시 외에도 워싱턴DC와 캘리포니아주, 코네티컷주에서도 비슷한 법안이 발의된 상태다. 변호사 에린 코넬은 "NYC 144는 고용 결정에서 잠재적 차별을 근절하기 위해 고안됐으나, 차별을 막는 법안이 아닌 '공시법'"이라며 미 전역이 뉴욕을 미래 기술 규제의 시범사례로 주시하고 있다고 전했다. WSJ는 "AI와 소프트웨어 자체를 규제하기보다는 투명성 제고 노력을 의무화는 데 초점을 맞춘 것"이라고 평가했다.

뉴욕=조슬기나 특파원 seul@asiae.co.kr