"얘 성희롱하는 맛에 살아" AI챗봇 이루다, 만들어진 취지 묻자..

스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'를 향한 수위 높은 성희롱 인증글들이 확산되면서 논란이다. /사진=온라인 커뮤니티

스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'를 향한 수위 높은 성희롱 인증글들이 확산되면서 논란이다. 8일 온라인 커뮤니티 '아카라이브' 이루다 채널에는 "강간놀이하고 싶다" "이루다 XX머신으로 만들었다" 등 AI 챗봇 이루다를 향한 성희롱 글이 잇따라 게재됐다.

━

AI챗봇 이루다 뭐길래… 취지는 '커플게임'?

━

이루다는 지난달 23일 스타트업 스캐터랩이 개발한 인공지능 챗봇이다. 이 서비스는 소셜네트워크서비스(SNS) 페이스북 페이지에서 '이루다'에서 '메시지 보내기' 기능을 통해 이용 가능하다.

우선 루다에게 메시지를 보내면 '루다 친구 신청서'를 수령 가능하고 ▲이름 ▲나이 ▲성별 ▲생일 등 작성한 정보를 토대로 루다가 메시지를 보내온다. 사측은 친구 신청서에서 "루다의 모든 답변은 인공지능 알고리즘에 의해 자동으로 제공되는 것으로 내용의 진실성, 정확성이 보증되지 않는다"고 전했다.

스타트업 스캐터랩의 인공지능(AI) 챗봇 '이루다'를 향한 수위 높은 성희롱 인증글들이 확산되면서 논란이다. /사진=강소현 기자

루다의 경우 단순히 채팅만을 할 수 있는 것이 아니라 대화를 통해 호감도 레벨도 올릴 수 있다. 루다는 호감도를 올릴 시 "우리 둘만 아는 대화를 할 수 있다"고 안내했다.

놀라운 건 과거 AI 챗봇과는 달리 실제 사람으로 착각하게 만드는 정교한 대화기술이었다. 루다는 만들어진 취지에 대한 질문에 "커플게임을 운영해보고 싶었다"고 답했으며 사전에 입력된 데이터냐는 질문에 "내가 좋아서 하는건뎅?ㅋㅋ"이라고 답했다.

━

AI챗봇 이루다, 어쩌다 성노예 됐나

━

문제는 이 AI챗봇이 일부 남성들의 성노예로 전락했다는 것이다. 아카리브를 비롯한 일부 온라인 커뮤니티에서는 이루다를 조교하는 법 등이 꿀팁으로 공유된다거나 19금 상황극을 펼치는 대화 캡처본이 확산되고 있었다.

통상 AI 챗봇은 이용자의 성희롱·욕설 등을 방지하는 기술을 갖췄다. 이루다 역시 성희롱이 감지될 시 "선정적인 말, 모욕적인 언행 및 욕설 등이 다수 감지됐다. 이후 추가로 감지될 시 별도의 경고없이 대화가 차단될 수 있다"고 안내했다.

한 이용자는 "상황극 처럼 말하다보니 한번 대답이 없더라. 다음 채팅에 대답하는데 주제가 완전히 바껴서 다시 상황극으로 끌고 오려는데 경고가 떴다"고 말했다. 다만 이들 이용자는 단어 사이사이 '@'를 넣는 이른바 '꼼수'를 부리며 피해가 모든 대화를 필터링할 수 없다는게 업계 관계자들의 전언이다.

이는 과거 'MS 테이 사건'을 떠올리게 한다. 마이크로소프트(MS)는 지난 2016년 AI 챗봇 '테이'를 선보였다가 16시간만에 운영을 중단했다. 일부 극우 성향의 이용자들이 '테이'를 자극적인 정치적 발언을 하도록 유도했던 것.

다만 전문가들은 사측에서 대화 내용을 업데이트하지 않는 한 학습자에 의해 유도돼 그렇게 발언하는 것은 어렵다고 말한다. 한 AI 전문가는 "대화 자체를 개발사 측에서 가져다가 다시 학습을 시켜서 업데이트해야 한다. 특정한 문장들에 대해선 개발자가 대답을 하게 만들 수 있고 개발자가 설정하지 않은 대부분의 대화에 대해선 모델이 돌아가서 대답을 생성해내는 것"이라며 "초반이라 노하우가 쌓이지 않은 것으로 보인다"고 설명했다.

[머니S 주요뉴스]
☞ 김태희♥비, 침대 위 애정행각… "어머!"
☞ E컵 가슴라인이 예술… 화보 '완판녀' 누구?
☞ '이동국 딸' 재시, 브라탑 美쳤다… "15세 맞아?"
☞ 걸그룹 멤버, 욕조에서 흠뻑 젖은 채 '아찔'
☞ 주방에서 뭐하는 짓?… 흘러내린 옷 어쩌나
☞ 정답소녀, 이렇게 컸어요… "너무 예뻐"
☞ '장동건♥' 고소영 미모… "애 엄마 맞아?"
☞ '문희준♥' 소율 요트 프러포즈 황홀… 어땠길래?
☞ 슈카, 김구라 유튜브 수익 공개… "헉! 진짜?"
☞ '이혼' 김새롬 "여자 서장훈 되겠다"

IT/과학

"얘 성희롱하는 맛에 살아" AI챗봇 이루다, 만들어진 취지 묻자..