"AI 면접서 차별이 '이루다 문제'보다 심각"

‘인공지능 법학회’ 좌담회

알고리즘 통한 입사자 추적해

실제 능력 일치 여부 분석 계획

美 FTC, 아마존 ‘하이어뷰’ 조사

‘AI채용 공정성’ 기준 제시할듯

성희롱 및 차별·혐오 논란에 휩싸여 결국 서비스가 중단된 챗봇 ‘이루다’ 사건을 계기로 인공지능(AI)의 윤리성 문제가 이슈로 떠오른 가운데 보다 심각한 문제는 “AI 면접·채용 과정에서 벌어지는 차별적 처우”라는 지적이 나왔다.

박상철 서울대 법학전문대학원 교수는 4일 한국인공지능법학회 주최로 열린 ‘AI 일탈을 어떻게 막을 것인가’ 주제의 온라인 좌담회에서 “이루다 사건을 통해 떠오른 동성애자 등 소수자에 대한 혐오 표현 등 차별적 발화(發話·speech) 이슈보다 더 중요한 차별적 처우(treatment)에 주목할 필요가 있다”고 말했다. 박 교수는 ‘채용 AI’ 모델이 지원자의 어떤 속성을 수집해 업무수행능력을 평가하는지, 과연 입사 후 실제 결과와 일치하는지 등을 추적 조사해 알고리즘의 타당성을 검증하는 작업에 착수할 생각이라고 밝혔다.

실제 미국의 공정거래위원회 격인 연방거래위원회(FTC)는 2019년 말 시민단체의 신고로 시작된 AI 채용 면접 알고리즘의 공정성을 조사 중이다. 아마존 등 여러 기업에서 널리 사용하는 ‘하이어뷰(Hire Vue)’가 조사 대상이다. 하이어뷰는 화상으로 면접 대상자의 안구 움직임을 포함한 얼굴 표정과 손짓, 음성, 대화 내용 등 빅데이터를 수집해 합격 여부를 결정하는 것으로 알려졌다. FTC의 판정이 나오면 AI 채용 공정성에 대한 첫 기준 제시가 될 것으로 전망된다. 이날 좌담회에서는 이루다 사건이 민간 기업의 신기술 개발을 출발부터 가로막는 ‘주홍글씨’로 작용해선 안된다는데도 공감대가 이뤄졌다. 오히려 이루다 사건은 개발자·사용자 가이드 등 윤리 기준이 새로 정립되는 계기가 돼야한다는 제언이다. 정미나 코리아스타트업포럼 정책실장은 “업계의 자정 능력에 맡기고 일단 지켜봐 줬으면 한다”며 “영미권의 ‘프로젝트 구텐베르크’처럼 대화형 AI 학습에 필요한 구어(口語) 말뭉치 같은 빅데이터를 영세 벤처기업도 싸고 손쉽게 입수할 수 있도록 정부가 공공 인프라를 구축해야 한다”고 말했다. 인간·컴퓨터 소통(HCI) 전문가인 이준환 서울대 언론정보학과 교수는 “사람들이 대화형 에이전트를 기계 아닌 친구처럼 사회적 행위자로 인식한다”며 “개발자는 에이전트 설계 때부터 사용자들과 어떤 관계를 형성할 것인가 등 서비스의 목적에 맞는 캐릭터(성격) 설정에 주의해야 한다”고 조언했다.

벤처기업 스캐터랩이 지난해 말 10~20대 사용자를 겨냥해 출시한 20대 여성 캐릭터 AI 챗봇(chatbot) ‘이루다’는 동성애자·흑인 혐오 등 차별 발언을 하고, 남성 사용자들에게 성희롱을 당하거나 개인 신상을 드러내는 개인정보보호법 위반으로 물의를 빚은 바 있다.

노성열 기자 nosr@munhwa.com

[ 문화닷컴 | 네이버 뉴스 채널 구독 | 모바일 웹 | 슬기로운 문화생활 ]

[Copyrightⓒmunhwa.com '대한민국 오후를 여는 유일석간 문화일보' 무단 전재 및 재배포 금지(구독신청:02)3701-5555 / 모바일 웹:m.munhwa.com)]