성희롱, 장애인 비하..AI 이루다 한달만에 사형선고

개발사, 성희롱 논란 이어 또 물의 "DB·딥러닝 알고리즘 모두 폐기"

성희롱, 소수자 혐오, 개인정보 유출 등 숱한 논란을 낳았던 AI(인공지능) 챗봇 ‘이루다’가 출시 24일 만에 폐기 수순을 밟게 됐다. 이루다의 개발사 스캐터랩은 15일 “이용자들의 불안감을 고려해 이루다의 데이터베이스(DB)와 AI 딥러닝(컴퓨터가 스스로 학습하는 기술)에 사용된 모델을 전부 폐기하기로 했다”며 “현재 진행 중인 정부 조사에 성실히 임한 후 데이터를 삭제할 것”이라고 밝혔다. AI에 딥러닝 알고리즘과 데이터는 인간의 뇌와 같다. 이번 결정은 AI 이루다에 대한 사형선고인 셈이다.

이루다는 페이스북 메신저를 통해 친근한 대화를 나누도록 설계됐다. 모바일 앱에서 수집해 학습시킨 연인 간 대화 1억건이 ‘진짜 사람 같다’는 이루다의 대화 능력을 부여했다. 이루다는 그러나 그 대화들 속 사회적 편견과 혐오를 넘어서지 못했다. 20세 여대생으로 설정된 이루다는 성희롱에 무방비였고 성소수자와 흑인을 ‘질 떨어지고 징그러운' 존재로 인식했다. 여기에 개인정보 유출 논란까지 터졌다. 이루다의 모태가 된 방대한 대화들을 확보·가공한 개발사가 대화 당사자들의 이름·주소 등 개인정보를 제대로 안 가린 채 다른 개발자들과 온라인으로 공유한 것이다. 투입되는 데이터가 많을수록 정교해지지만 동시에 치명적인 사생활 침해 위험도 커지는 AI 기술의 딜레마를 보여준 것이다.

스캐터랩 관계자는 “대화 정보는 이용자의 동의를 얻고 회사가 운영하는 별도의 앱에서 수집한 것이지만 논란이 된 만큼 원치 않는 사용자들은 따로 신청받아 개별적으로 데이터를 삭제하겠다”고 밝혔다. 스캐터랩은 이 회사의 대화 분석 앱 ‘연애의 과학'과 ‘텍스트앳' 등에서 100억건의 대화 자료를 수집, 그 중 일부를 이루다 개발에 사용했다. 스캐터랩은 “(데이터 삭제와 별개로) 이루다라는 캐릭터 자체를 없앨지 여부는 미정”이라고 했다. 설령 이루다라는 이름의 서비스가 재출시된다 해도 뇌를 갈아끼운 ‘동명이인’이 되는 격이다.