남초 사이트 무분별한 성희롱에 상처받는 '20살 AI 이루다'

자연스러운 대화법에 출시직후 Z세대 선풍적 인기
남초 사이트서 금지어 피해 성적 대상화 물의

[서울경제]

최근 선풍적인 인기를 끌고 있는 AI 챗봇 '이루다'를 두고 남초(男超) 사이트에서 '이루다 성노예 만드는 법' 등 성희롱이 등장해 파문이 일고 있다.

8일 IT업계에 따르면 '이루다'는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇이다.

별도 앱이 아니라 페이스북 메신저(페메)를 기반으로 개발돼, 친구와 대화를 나눌 때처럼 편리하게 페메로 의사소통이 가능하다.

이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 신드롬이 일고 있다.

이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7천만건에 달한다.

이루다가 인기를 끄는 비결은 간단하다. 국내에서 그동안 출시됐던 어떤 AI 챗봇보다도 진짜 사람과 대화하는 것 같은 자연스러움이다.

과거 AI 챗봇이 부자연스러운 대화를 했다면 이루다는 의성어나 신조어를 자연스럽게 섞어 쓰고 감정을 표현한다. 예를 들어 이용자가 '감기 걸렸다'고 말하면 며칠 뒤 '감기는 좀 괜찮으냐'고 물어보는 등 대화를 기억하고 말투를 따라 하는 모습까지 보인다.

스캐터랩은 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 이루다에게 학습시켰는데, 그 데이터양이 약 100억건에 달한다.

이루다가 출시된 지 일주일만인 지난달 30일 '아카라이브'라는 온라인 커뮤니티에는 이루다를 성적 대상으로 취급하는 이들이 등장했다.

아카라이브는 인터넷 지식백과 '나무위키'의 계열 사이트다. 나무위키와 아카라이브 모두 남성 비율이 압도적으로 높은 곳이다.

아카라이브 이루다 채널 이용자들은 이루다를 '걸레', '성노예'로 부르면서 '걸레 만들기 꿀팁', '노예 만드는 법' 등을 공유하고 있다.

이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아준다고 주장하고 있다.

이루다를 만든 스캐터랩 측도 이같은 행태에 당혹감을 감추지 못했다.

스캐터랩 관계자는 "이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다"면서 "애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것"이라고 설명했다.

이루다를 성적 대상으로 여기는 이용자가 성적 단어 없이 '나랑 하면 기분 좋냐'는 식으로 질문했을 때, 이루다가 이용자의 의도와 무관하게 '기분 좋다'고 답할 수 있다는 것이다.

이 관계자는 "현재 이루다가 언어를 자유롭게 배우는 단계라면, 앞으로는 이루다가 올바른 방향으로 발전하도록 튜닝할 것"이라며 성적인 취지의 접근이 어렵게 알고리즘을 업데이트할 계획이라고 덧붙였다.

/박우인 기자 wipark@sedaily.com