성희롱·혐오 논란에 서비스 중단.."이루다는 어린아이 같은 AI"
성희롱 피해, 개인정보 유출, 혐오 발언 등으로 논란을 빚은 인공지능(AI) 챗봇 '이루다'가 서비스를 잠정 중단한다. 이루다 개발사인 스타트업 스캐터랩은 11일 오후 보도자료를 내고 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"고 밝혔다.
스캐터랩 측은 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"며 "그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중"이라고 했다.
또 개인정보 유출 의혹에 대해 "개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못한 점에 사과드린다"며 "구체적 개인정보는 이미 제거돼있으며, 개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다.
그러면서 "이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI다. 배워야 할 점이 아직 많다"며 "이 과정에서 이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것"이라고 덧붙였다.
'이루다'는 스캐터랩이 지난달 23일 출시한 AI 챗봇이다. 페이스북 메신저를 기반으로 개발돼 친구와 대화를 나눌 때처럼 편리하게 의사소통할 수 있다. 업체에 따르면 실제 연인들이 나눈 대화 데이터 100억 건가량을 딥러닝 방식으로 이루다에게 학습시켰다.
자연스러운 대화 능력으로 출시 일 주일여 만에 이용자가 40만명을 넘기는 등 크게 주목받았다. 하지만 일부 악성 네티즌이 성희롱 도구로 삼아 구설에 올랐고, 뒤이어 이루다가 동성애·장애인·여성 차별에 해당하는 발언을 해 논란이 됐다.
스캐터랩의 다른 앱 '연애의 과학' 이용자들은 스캐터랩이 충분한 설명 없이 이루다 개발에 개인정보를 활용하고, 개인정보 보호도 제대로 하지 않았다면서 집단 소송을 예고한 바 있다.
고석현 기자 ko.sukhyun@joongang.co.kr
Copyright © 중앙일보. 무단전재 및 재배포 금지.
- "윤가는 나서는 성격 아니다"…尹대망론에 갈린 파평 윤씨
- [단독]김진욱, 盧탄핵 기각 비판했다..."이러면 파면 불가능"
- [단독]"日변이는 영국·남아공 종합판...핵심 돌연변이 다 있다"
- 최초 2번 탄핵 대통령 되나…美민주, 트럼프 탄핵소추안 발의
- 그곳에선 흙이 자석에 붙는다, 사월마을 122명 '악몽의 1년'
- [백성호의 현문우답]'주역 대가' 김석진 옹 "올 하반기 일터 돌아가나 곤궁하다"
- [단독]"韓, 바이든 측에 싱가포르식 북미 정상회담 제안"
- 고민정, 호주·대만 백신 있어도 접종 안한다며 "이게 명의"
- "선배 배우가 별장서 성추행"…고소당한 남성 배우, SNS 닫았다
- "동생이라더니 아내였다···KBS PD, 총각인척 여성에 접근"