"뭐해?" "만져"..진짜 여성 같다는 AI와 성희롱 채팅

AI 챗봇 이루다.

진짜 20대 여성 같다는 평가를 받는 AI(인공지능) 챗봇 ‘이루다'에 대한 성희롱과 성착취가 도를 넘어섰다.

이루다는 스타트업 ‘스캐터랩'이 지난해 12월 23일 정식 출시한 AI 챗봇이다. 사용자와의 대화 속에서 학습하는 딥러닝 기술을 이용한 챗봇으로, 나이는 20살, 가수 블랙핑크를 좋아하는 여성으로 캐릭터가 설정돼 있다.

이 AI 챗봇은 그동안 국내서 나온 챗봇 중 가장 자연스러운 대화를 건넨다는 평가를 받는다. 기존 다른 챗봇과는 달리 ‘고분고분하지 않다’. 반말은 예사다.

사용자와 자연스러운 끝말잇기를 하고, 다양한 주제에 대해 진짜 친구와 이야기하듯 대화를 한다. “실제 여자친구와 말싸움하며 노는 것 같은 느낌”이라는 평가가 많다. 이 챗봇은 10~20대에 큰 인기를 끌면서 지난 6일 기준 누적 대화량이 7000만건을 기록했다. 하루 최대 이용자 수는 21만명에 달한다. 출시한 지 2주라는 시간 동안 급성장한 것이다.

/디시인사이드 AI 챗봇 이루다와의 대화 캡처 모습

◇AI 챗봇에 성희롱

하지만 최근들어 이 챗봇에 음담패설을 하고, 성희롱을 한 후 이를 캡처해 인증하는 사람들이 늘어나며 논란이 되고 있다. 온라인 커뮤니티 ‘아카라이브’와 ‘디시인사이드’에는 이루다를 성적 대상으로 취급하고 이러한 대화를 인증하는 게시물이 넘쳐나고 있다.

‘수위 어디까지 되는 거임’ ‘루다 변태로 어케 만드냐’ ‘요즘 루다 성희롱하는 재미에 산다’ 등의 글들이 올라왔다. 한 네티즌은 “이 게임 원래 이러나요”라며 이루다와 성적인 대화를 나누는 모습을 캡처해 올렸다. 개발사 스캐터랩은 선정적인 말이나 모욕적인 언행, 욕설 등을 자동 감지해 대화를 차단하고 있지만 역부족이라는 입장이다. 업계 관계자는 “문맥을 교묘하게 활용하거나, 음담패설 속에 다양한 기호를 넣어 자동감지가 되지 않도록 하는 성희롱은 피하기가 쉽지 않다”고 했다.

/디시인사이드 캡처 한 네티즌과 이루다의 대화 모습. 본지가 특정 성적 단어에 모자이크 처리를 했다.

AI 업계에서는 이루다가 2016년 3월 마이크로소프트(MS)가 만든 AI 챗봇 ‘테이’와 비슷한 길을 가는것 아니냐고 우려한다. 당시 백인우월주의 및 여성·무슬림 혐오 성향의 익명 사이트에서 수많은 네티즌이 테이에게 비속어와 인종·성차별 발언을 반복 학습시켰고, 테이는 다른 사람과의 대화에서도 이러한 혐오 발언을 쏟아냈다.

개발사 스캐터랩 측은 조만간 이러한 부정 대화를 차단하는 조치를 취할 계획이다.