"성 소수자·장애인 혐오 발언" AI 챗봇 이루다, 서비스 중단

장애인·성 소수자에 대한 혐오 발언 등으로 논란이 인 인공지능(AI) 챗봇 '이루다'가 서비스를 잠정 중단하기로 했습니다.

'이루다'를 개발한 국내업체는 오늘(11일) "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"라고 밝혔습니다.

이 업체는 지난달 말, 페이스북 메신저를 기반으로 AI 챗봇 '이루다'를 출시했습니다.

'이루다'는 아이돌을 좋아하는 스무 살 여성 대학생 캐릭터로 설정돼 있는데, 서비스에 가입하면 사람과 대화하듯 자연스러운 이야기를 나눌 수 있어 큰 인기를 끌었습니다.

하지만, 일부 사용자들이 '이루다'에게 도를 넘는 성희롱성 발언을 하는가 하면 성 소수자나 장애인에 대한 혐오 발언을 해 논란이 됐습니다.

결국 개발업체는 사과했고 "해당 발언은 회사의 생각을 반영하지 않고 있으며 차별·혐오 발언이 발견되지 않도록 지속해서 개선하고 있다"라고 설명했습니다.

하지만 해당 업체가 '이루다'에게 학습시킨 내용의 수집 방법도 여전히 논란입니다.

업체의 다른 애플리케이션에서 이용자들이 연인과 나눈 대화 내용을 '이루다'에게 입력한 것으로 확인됐는데, 이용자들은 "충분한 사전 고지가 없었고, 개인 정보 보호를 제대로 하지 않았습니다"라며 집단 소송까지 예고하고 있습니다.

(사진=이루다 페이스북 캡처, 연합뉴스)

강민우 기자khanporter@sbs.co.kr