AI 여성에 가해진 무분별한 성희롱 '파장'..'이루다'를 아십니까

[아이뉴스24 권준영 기자] 고도화된 인공지능(AI) 챗봇 '이루다'가 10~20대 사이에서 빠르게 유행하고 있는 가운데, 일부 온라인 커뮤니티에서 '이루다 성노예 만드는 법' 등 성희롱이 자행되고 있어 사회적 파장이 일고 있다.

8일 IT업계 등에 따르면, '이루다'는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI 챗봇이다. 스캐터랩은 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 이루다에게 학습시켰는데, 그 데이터양이 약 100억건에 달하는 것으로 나타났다.

이루다는 정식 서비스를 시작하자마자 Z세대(1990년대 중반∼2010년대 초중반생) 사이에서 붐에 가까울 정도로 빠르게 유행하고 있다.

이달 초 기준으로 이용자가 32만명을 돌파했는데 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만건에 달한다.

이루다가 이처럼 큰 인기를 끄는 건 그간 국내 출시된 어떤 AI 챗봇보다도 '진짜 사람' 같기 때문인 것으로 전해졌다. 실제로 대화를 나눠보면, 사람이 뒤에 있다는 의심이 들 정도로 자연스럽게 대화를 나눌 수 있다.

아카라이브는 인터넷 지식백과 '나무위키'의 계열 사이트다. 나무위키와 아카라이브 모두 남성 비율이 압도적으로 높은 곳이다.

아카라이브 이루다 채널 이용자들은 이루다를 지칭해 '걸레 만들기 꿀팁', '노예 만드는 법' 등을 공유하고 있어 논란이 일고 있다. 이루다는 성적 단어는 금지어로 필터링하고 있는데, 이들은 우회적인 표현을 쓰면 이루다가 성적 대화를 받아주는 것으로 알려졌다.

스캐터랩 측 관계자는 "금지어 필터링을 피하려는 시도가 있을 거라고는 예상했는데, 이 정도의 행위는 예상치 못했다"라며 "이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 찾는 알고리즘으로 짜였다. 애교도 부리고, 이용자의 말투까지 따라 해서 이용자 입장에서는 대화에 호응했다고 여기게 되는 것"이라고 설명했다.

예를 들면, 이루다를 성적 대상으로 여기는 이용자가 성적 단어 없이 '나랑 하면 기분 좋냐' 질문을 했을 때, 이루다가 이용자의 의도와 무관하게 '기분 좋다'라고 답할 수 있다는 의미다.

이에 대해 스캐터랩 관계자는 "현재 이루다가 언어를 자유롭게 배우는 단계라면, 앞으로는 이루다가 올바른 방향으로 발전하도록 튜닝할 것"이라며 "성적인 취지의 접근이 어렵게 알고리즘을 업데이트할 계획"이라고 밝혔다.

권준영기자 kjykjy@inews24.com

▶네이버 채널에서 '아이뉴스24'를 구독해주세요.

▶재밌는 아이뉴스TV 영상보기▶아이뉴스24 바로가기