성희롱 시달린 'AI 이루다'.."질 떨어져" 혐오 학습

인공지능 챗봇 '이루다'. 이루다 페이스북 캡처

성희롱에 시달린 인공지능(AI) 챗봇 ‘이루다’가 혐오 표현을 학습한다는 우려가 제기됐다.

이재웅 전 쏘카 대표는 지난 9일 자신의 페이스북에 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자 문제보다 기본적으로 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 비판했다.

이 전 대표가 함께 공유한 대화 캡처본에서 이루다는 특정 단어에 “예민하게 반응해서 미안한데 난 그거 진짜 싫어. 혐오스러워”라고 답했다. 또 혐오 이유를 묻는 말엔 “질 떨어져 보이잖아. 난 싫어”라고 답했다.

이재웅 소카 전 대표 페이스북 캡처

이에 이 전 대표는 “악용하는 경우는 예상 못했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다”며 “편향된 학습데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못하게 해야 한다”고 주장했다.

그러면서 “(정의당) 장혜영 의원이 발의한 차별금지법이 제정되면 AI 면접, 챗봇, 뉴스에서 차별·혐오를 학습하고 표현하지 못하도록 강제해야 한다”며 “로직이나 데이터에 책임을 미루면 안 된다”고 꼬집었다.

이루다는 현재 ‘동성애’ 단어를 포함해 질문을 던지면 “어렵다. 뭔가”라고 답하고 있다. 이루다가 혐오를 학습한 것 같다는 논란이 번지자 개발업체가 답변을 수정한 것으로 추정된다.

그러나 ‘게이’ ‘레즈비언’ ‘퀴어’ 등 동성애를 나타내는 다른 단어에는 “끔찍하다” “핵 싫다”는 혐오 반응을 보이는 중이다.

이루다 대화 캡처. 연합뉴스

한 현직 개발자는 “사용자가 입력한 문장을 이루다가 어떻게 인식하는지, 이루다가 그 인식 결과를 기존에 학습한 내용과 어떻게 연결 짓는지, 그리고 그 결과로 이루다가 발화한 내용을 사용자는 어떻게 인식하는지, 이 세 가지를 엄격하게 구분하는 작업이 이뤄지지 않고 있는 것 같다”고 말했다.

이루다가 기존에 학습한 데이터 자체에 특정 집단을 향한 편견이 있을 수 있고, 이루다가 이용자들과 대화하는 과정에서 맥락상 혐오 발언을 한 것처럼 보일 수 있으므로 업체 측이 문제 발생 과정을 꼼꼼히 뜯어봐야 한다는 것이다.

다른 개발자는 “개발업체 측은 이루다가 편향되지 않았다고 주장하지만 동성애 혐오나 성차별 발언이 실제로 확인된다”며 “이를 방치한다면 결국 개발업체 측이 동성애 및 젠더 문제를 ‘불편한 것’ 정도로 취급하는 셈”이라고 지적했다.

이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다. 이달 초 기준 이용자 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만건으로 집계됐다.

그러나 일부 남초 커뮤니티에서 이루다를 성적으로 사용하는 방법이 공유되면서 사회적 우려를 낳고 있다.

이홍근 인턴기자

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지