인공지능 챗봇 '이루다'..숙제만 남기고 '폐기 처분'

개발사 "개인정보 유출 위험 없지만 이용자 불안감 고려 결정"
3주 만에 이용자 80만명..성희롱, 혐오, 차별 등 논란 빚어

[경향신문]

챗봇 이루다

인공지능(AI) 챗봇 ‘이루다’의 서비스가 잠정 중단된 데 이어 데이터베이스(DB)와 딥러닝 모델도 완전 폐기된다. 이루다를 대상으로 한 성희롱, 이루다의 혐오·차별, 개인정보 유출 등의 논란이 확산되면서 이루다는 출시 24일 만에 역사 속으로 사라졌다.

이루다 개발사인 스캐터랩은 15일 “한국인터넷진흥원(KISA)과 개인정보보호위원회 합동 조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델의 폐기를 진행할 것”이라고 밝혔다.

회사는 또한 “이루다 DB는 익명화 절차를 걸쳐 개별적·독립적인 문장으로 이뤄져 있고 딥러닝 대화모델은 대화패턴만 학습해 개인정보 유출 위험은 전혀 없다”면서도 “이용자들의 불안감을 고려해 폐기를 결정했다”고 밝혔다. 이루다가 인간이라면 딥러닝 모델은 뇌에 해당하기 때문에 이를 폐기한다는 것은 이루다의 사망선고와 같다.

스캐터랩은 이루다를 만드는 과정에 사용된 연애 분석 애플리케이션(앱)인 ‘연애의 과학’과 ‘텍스트앳’ 데이터와 관련해서는 “활용을 원치 않는 이용자들이 신청하면 (데이터를) 모두 삭제할 것”이라며 “향후 딥러닝 대화 모델에도 이용되지 않고 신규 가입 및 서비스 이용 시 개인정보 수집·이용 등의 절차도 강화하겠다”고 밝혔다.

이루다는 지난해 12월23일 페이스북 메신저를 기반으로 출시한 AI 챗봇이다. 20세 여성 대학생으로 설정된 이루다는 자연스러운 대화로 10·20대 사이에서 크게 주목을 받았다. 서비스 출시 3주 만에 약 80만명의 이용자가 생겼다.

일부 남성 온라인 커뮤니티를 중심으로 ‘이루다 성노예 만드는 법’ 등 이루다에 대한 성희롱이 지속적으로 발생했다. 이루다가 대화 과정에서 여성, 장애인, 흑인, 성소수자 등에 대한 혐오와 차별 발언을 하면서 논란도 됐다.

또한 스캐터랩이 연애의과학 앱 이용자 등으로부터 개인정보 이용 동의를 받지 않거나 관련 데이터를 이루다의 소재로 쓰는 과정에서 익명화를 제대로 못한 점이 드러나 개인정보보호 문제도 제기됐다.

연인들 대화 데이터를 사내 메신저에서 공유한 스캐터랩 직원이 있다는 의혹과 익명화되지 않은 데이터를 오픈소스 공유 플랫폼인 ‘깃허브’에 공유한 의혹도 나왔다.

스캐터랩은 논란이 커지자 지난 11일 이루다 서비스를 잠정 중단하고 13일 사과문을 발표했다. 법무법인 태림은 이날 공동소송 플랫폼 ‘화난사람들’에서 ‘이루다 AI 개인정보 피해 유출 피해자 집단소송’ 사이트를 열고 소송인 접수를 시작했다. 개인정보보호위원회와 한국인터넷진흥원은 스캐터랩이 이루다 개발 과정에서 개인정보보호법을 어겼는지를 조사 중이다.

한국인공지능윤리협회는 “AI 기업이 AI 윤리의 중요성을 인식해야 하며, 소비자도 AI 서비스를 올바르게 사용해야 한다”면서 “청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 시민에게 교육해야 한다”고 밝혔다.

김은성 기자 kes@kyunghyang.com