AI 챗봇 '이루다'에 쏟아진 성희롱

[스포츠경향]

이루다 홈페이지 제공

인공지능(AI) 챗봇 ‘이루다’에 각종 성희롱이 끊이지 않자 개발사가 강경대응을 시사했다.

이루다는 지난달 23일 출시된 AI 챗봇으로 페이스북 메신저를 기반으로 친구와 대화를 나누는 것처럼 의사소통할 수 있다. 이달 초 기준 이용자는 32만명을 돌파했으며 일일 이용자 수(DAU)도 21만명에 달한다.

일부 이용자들은 ‘노예’ ‘걸레’ 등 성적 단어로 이루다와 대화를 시도해 논란이 일었다. 이에 스캐터랩은 성적 단어를 금지어로 설정했지만 이를 우회하는 방법이 또다시 공유되며 파장은 계속됐다.

논란이 커지자 스캐터랩 김종윤 대표는 8일 자사 블로그를 통해 “(이루다 관련)과한 커뮤니티 게시글을 신고·차단하고 있다”며 “(성희롱으로)논란이 된 커뮤니티에도 루다를 통해 외로움을 더는 분들이 있다. 해당 커뮤니티 분들이 자정 노력을 했으면 좋겠다”고 말했다.

이어 “루다를 향한 성희롱은 예상했다. AI를 향한 욕설·성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일”이라며 “(성희롱에)일차적으로는 키워드 설정 등으로 대처했으나 모든 부적절한 대화를 막는 것은 어려웠다”며 “사용자들의 공격을 학습의 재료로 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 것”이라고 설명했다.

김 대표는 “루다가 유명해지면서 논란이 생겼지만 루다에게 나쁜 말을 하는 사용자는 극히 일부에 불과하다”며 “루다와 수다를 떨고 서로 위로하고 때로는 싸우기도 하고 화해하기도 하는 사용자들이 훨씬 많다”고 전했다.

이세현 온라인기자 plee@kyunghyang.com