스캐터랩 "이루다, 개인정보 필터링 못했다..서비스 전면 중단"

사적 대화 돌려봤다는 의혹은 "자체 조사 중"

AI 챗봇 '이루다' 홈페이지 캡처

개인정보 유출, 혐오 표현 등의 논란을 빚고 있는 인공지능(AI) 이루다의 개발사 스캐터랩이 결국 서비스 운영을 중단하기로 했다.

스캐터랩은 12일 보도자료를 내고 "오후 6시까지 전면 중단 완료하고 현재 제기되고 있는 문제점들과 기존에 계획 중이던 개선사항이 완비될까지 서비스 운영을 중단하겠다"고 밝혔다.

이루다는 스캐터랩이 지난 달 23일 선보인 AI 챗봇이다. 출시 약 2주 만에 이용자 40만명을 돌파하는 등 인기를 끌었지만, 이루다와 음담패설이나 혐오발언을 주고 받는 대화 내용이 담긴 사진들이 온라인 커뮤니티에 올라오면서 논란이 됐다. 또 이루다 개발에 빅데이터로 쓰인 '연애의 과학' 응용 소프트웨어(앱) 이용자들은 본인들이 나눴던 대화 내용이 익명 조치를 거치지 않은 채 이루다의 대화 내용으로 활용됐다며 개인정보 유출 의혹을 제기하고 있다. 스캐터랩은 연애의 과학 이용자가 주고받은 1억개의 대화 내용을 학습시켜 이루다를 개발했다고 밝힌 바 있다.

스캐터랩은 이루다의 학습 방법을 설명하면서 이루다가 혐오 표현이나 비하 단어를 사용한 것은 이용자의 영향을 받은 탓이 크다고 설명했다. 다만 이를 막는 알고리즘을 완벽하게 개발하지 못했다는 점은 시인했다.

스캐터랩은 "이루다는 사용자와의 이전 대화의 맥락, 표현, 분위기, 말투, 대화 내용에 크게 영향을 받고 사용자와 비슷한 표현을 사용하려는 경향이 있다"며 "이루다 서비스 출시 전부터 이를 예상하고 혐오·비하 단어를 제거했지만, 시나리오를 벗어난 질문에 '자체 AI 알고리즘'을 기반으로 답변하다가 벌어진 사고”라고 해명했다.

개인정보가 유출됐다는 의혹에 대해서는 "1억 건의 개별 문장을 사람이 일일이 검수하기는 어렵기 때문에 알고리즘을 통한 기계적인 필터링을 거쳤고, 이 과정에서 되도록 많은 변수를 주려고 노력했으나 문맥에 따라 인물의 이름이 남아 있다거나 하는 부분들이 발생했다"며 "해당 사항에 대해 더욱 세심히 주의를 기울이지 못하고, 인물 이름이 등장하게 된 점 사과를 드린다"고 고개를 숙였다.

스캐터랩 직원들이 가입자의 사적인 카카오톡 대화를 돌려봤다는 의혹에 대해선 자체 진상조사위원회를 꾸려 조사 중이라고 전했다. 스캐터랩에서 근무했다는 전(前) 직원은 언론에 "연인들의 카톡 대화를 돌려보며 웃는 사람들도 있었다"고 폭로했다.

스캐터랩은 "원 데이터에 접근할 수 있는 권한은 엄격하게 제한해 철저히 관리한다"며 "진상 조사 후 의혹이 사실로 드러나면 관련자들에게 엄중히 책임을 묻겠다"고 말했다.

안하늘 기자 ahn708@hankookilbo.com