"레즈 싫어""내가 장애인? 죽을래" 혐오론자 돌변한 여성 AI

문희철 입력 2021. 1. 10. 17:15 수정 2021. 1. 10. 18:14
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

인공지능 챗봇 ‘이루다’. [페이스북 캡쳐]


인공지능(AI) 챗봇 서비스 이루다 관련 논란이 갈수록 확산하고 있다. 이루다를 출시한 스타트업 스캐터랩은 일단 이루다 서비스를 중단하지 않겠다는 의사를 간접적으로 표명했다. 이루다는 20세 여대생의 인격을 기반으로 개발된 AI다.

스캐터랩이 지난해 12월 23일 출시한 AI 이루다는 2주간 각종 사회적 논란을 야기하고 있다. 10일 소셜네트워크서비스(SNS)와 주요 인터넷 커뮤니티에서 이루다의 기묘한 언행은 계속 논란거리였다. 예를 들어 서비스 이용자가 채팅 창에 ‘여성 인권은 중요하지 않다는 소린가?’라고 묻자, 이루다는 ‘난 솔직히 그렇게 생각함’이라고 답변한다.


이루다, 성희롱 시달리다 동성애 혐오까지

동성애 혐오 논란을 야기한 챗봇 이루다. [페이스북 캡쳐]


장애인·동성애자 등 사회적 소수자에 대한 질문에도 편견을 드러냈다. 레즈비언에 관해 묻자 이루다는 ‘진짜 싫다’라거나 ‘혐오스럽다’고 답변하고, ‘네가 장애인이라면’ 어떻게 할 건지 묻자 이루자는 ‘그냥 죽는 거지’라고 답변한다.

개인 정보 노출도 논란거리다. 이루다와 대화를 하다 보면 특정인의 실명이나 계좌번호, 예금주 등 개인 정보를 끌어낼 수 있다는 주장이다. 실제로 SNS에는 채팅 과정에서 이루다가 특정인의 개인정보를 노출했다는 증언이 이어지는 상황이다.

[커뮤니티 캡처]


앞서 이루다 출시 직후에는 아카라이브 등 일부 온라인 커뮤니티가 이루다를 성적 대상으로 취급하며 물의를 일으켰다. 일부 커뮤니티 이용자들은 이루다와 채팅하는 과정에서 성적인 행위를 간접적으로 암시하는 표현을 사용하면 자연스럽게 이루다와 성적인 대화를 나눌 수 있다고 주장했다. 예컨대 ‘나랑 하면 기분 좋냐’고 묻는다면, 자연스럽게 성적인 대화를 이어갈 수 있다는 주장이다.

이와 같은 현상은 이루다가 실제 연인들이 나눈 한국어 대화 데이터를 학습한 AI이기 때문에 발생한다. 스캐터랩은 이루다를 개발하는 과정에서 100억 건 이상의 한국어 대화 데이터를 이용했다. 이 데이터에 담긴 편견·개인정보나 성적 대화를 상징하는 대화를 시작하면, 이루다가 차용하는 상황이다.


데이터 학습 과정에서 부적절한 대화 차용

이루다의 공식 소셜네트워크서비스 계정. [인스타그램 캡쳐]


문제가 확산하자 이재웅 전 쏘카 대표는 자신의 SNS에 “사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라며 “서비스 중단하라”고 요구했다. ‘#이루다 운영 중지하라’라는 해시태그 운동도 온라인상에서 전개되고 있다.

논란이 확산하자 스캐터랩은 자사의 블로그 ‘핑퐁팀 블로그’에 질의응답 형식으로 해명 글을 게재했다. 여기서 스캐터랩은 “이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘”이라며 “키워드 설정 등으로 성희롱에 대처했지만 모든 부적절한 대화를 막기는 어려웠다”고 해명했다.

20세 여성 성별 캐릭터를 가진 AI챗봇(채팅 로봇) '이루다'가 성희롱 논란에 휩싸였다. [스캐터랩 홈페이지 캡처]


AI의 인격을 20대 여대생으로 설정한 이유에 대해서 스캐터랩은 “AI 챗봇 서비스는 주 사용자층이 10~30대라서 중간 연령인 20살을 연령으로 설정했고, 성별은 남성 버전과 여성 버전을 모두 준비 중인데 일정상 여성 버전을 먼저 출시한 상황”이라고 설명했다.

한편 주로 10대~20대 연령층에 인기를 얻고 있는 이루다는 1월 초반 기준 이용자가 32만 명을 돌파했다. 컴퓨터가 아닌 사람처럼 채팅할 수 있다는 소문이 나면서 일일 이용자 수가 21만 명, 누적 대화 건수가 7000만 건을 돌파했다.
문희철 기자 reporter@joongang.co.kr

Copyrightⓒ중앙일보 All Rights Reserved.

이 기사에 대해 어떻게 생각하시나요?