기업 인사 결정에 ‘AI의 차별’ 막는 법, 뉴욕서 발효

채용이나 승진 심사시 AI의 인종-성 차별 가능성 밝혀야
위반 기업에 매일 벌금 최대 195만원... 세계 첫 사례
구인 구직 대량화, 특정 집단 편견 강화하는 ‘알고리즘 차별’ 도 증가

지난 5일 미 뉴욕시의 업무지구에서 한 직장인이 회사 앞에 나와 스마트폰을 들여다보고 있다. 이날 뉴욕에선 AI 인사 프로그램 등이 신규 채용이나 승진-연봉 심사 때 인종과 성별에 기반한 차별을 할 가능성을 미리 공개해 차별을 막는 'NYC 144'법이 발효됐다. /로이터 연합뉴스

기업이 직원 채용과 승진을 결정할 때 사용하는 인공지능(AI)의 인종·성(性) 차별 가능성 등을 차단하는 법이 미국 뉴욕에서 5일(현지 시각) 발효됐다. 인간의 노동에 대한 AI의 편견과 차별을 규제하는 법이 나온 건 미국뿐 아니라 세계에서도 처음이다.

‘NYC 144′란 이 법률은 뉴욕시에 거주하는 구직자에 대한 AI 챗봇(chatbot·음성이나 문자로 인간과 대화할 수 있는 컴퓨터 프로그램) 면접 툴, 이력서 검토 소프트웨어 같은 대규모 자동화 프로그램을사용하는 기업들은 해당 도구의 인종과 성차별 가능성을 매년 제3 기관에서 감사받은 뒤 그 결과를 공개토록 한다. 이를 위반하는 기업은 하루에 건당 최대 1500달러(195만원)의 벌금을 부과받으며, 이 자료는 구직자나 직원들이 인종·성 차별을 고발하는 소송에서 증거로 사용될 수도 있다. 다만 기업이 특정 집단을 배제해야 하는 이유를 합리적으로 증명할 수 있으면 면책된다. 이 법은 2021년 시의회를 통과해 2년간 여론 수렴을 거쳤다.

미 기업들은 대규모 채용이나 승진·연봉 심사를 할 때 AI를 활용하고 있다. 이력서와 업무 성과 검토, 기초 면접 등을 일일이 사람이 도맡기 어려울 정도로 업무량이 늘었기 때문이다. 월스트리트저널과 NBC에 따르면, 2008년 금융 위기 이래 구직·이직 수요가 치솟은 데다, 구직자들도 온라인으로 지원서를 대량으로 보낼 수 있게 되면서 기업들도 인사 자동화 소프트웨어에 의존하게 됐다. 그런데 고용주가 채택하는 AI 등이 특정 집단에 대한 편견이나 혐오를 확증편향적으로 학습, ‘알고리즘(algorithm·어떤 문제를 해결하는 절차나 명령어의 집합) 차별’을 한다는 지적이 나왔다. 알고리즘 차별은 중립적으로 보이는 정보 기술이 채용·승진은 물론 교육, 의료, 은행 대출과 보험 가입에 이르기까지 편향된 데이터에 기반해 차별을 구조화하는 현상을 말한다.

생성형 AI인 챗GPT를 형상화한 이미지. 중립적으로 보이는 AI 등 정보기술이 편향된 데이터를 잘못 학습하거나 인간의 잘못된 설계로 인해 특정 집단에 대한 편견이나 차별, 혐오를 대량 양산할 수 있다는 지적이 잇따르고 있다. /로이터 연합뉴스

세계 최대 전자상거래 기업 아마존은 기존 임원급 엔지니어들과 구직자들이 대개 남자였기 때문에, 채용 알고리즘은 여성성을 드러내는 키워드를 쓰거나 여자대학을 졸업한 지원자는 서류 심사에서 자동으로 불이익을 주는 식으로 10년간 운영됐다는 사실이 드러났다. 아마존은 이 프로그램을 중단하고 인사에서 사람의 판단을 늘리는 쪽으로 바꿨다.

미국에선 1960~70년대부터 인종·성·종교·가족·재산·장애 등을 이유로 한 차별을 막는 법이 시행돼왔지만, AI가 인간을 빠르게 대체하면서 그 사각지대도 커졌다. 뉴욕과 비슷한 법이 캘리포니아·뉴저지·코네티컷주와 워싱턴DC 등에서 곧 제정할 전망이며, 일리노이·메릴랜드주는 직장 내 근로자 감시나 신규 채용 시 AI 사용을 아예 금지하는 법을 시행 중이다. 일각에선 ‘NYC 144′법이 AI의 인종·성 차별만 규제할 뿐, 연령·장애 등 다른 요소에 대한 차별 가능성은 담지 못해 한계가 있다고 지적한다고 뉴욕타임스는 전했다.