'이루다' 서비스 잠정 중단.."알고리즘 개선 통해 보완하겠다"

AI 챗봇 이루다 이미지. 홈페이지 캡처

스캐터랩 로고. 스캐터랩 제공

AI(인공지능) 챗봇 '이루다' 개발사인 스캐터랩은 해당 서비스를 잠정 중단하겠다고 밝혔다.

스캐터랩은 11일 오후 입장문을 통해 "이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다"면서 "저희는 루다의 차별적 발언에 동의하지 않으며, 그러한 발언은 회사의 생각을 반영하지 않고 있다"고 밝혔다.

이어 "본사는 해당 이슈를 매우 중요하게 생각하고 있고, 지난 6개월간의 베타테스트를 통해 문제 발생을 미연에 방지하기 위해 여러 조치를 취했다"면서 "특정 집단을 비하는 호칭이나 혐오 표현의 경우, 베타테스트 기간 동안 발견 즉시 별도의 필터링을 진행했으며, 기존에 알려진 사례들은 이미 개선을 완료했다"고 밝혔다. 이어 "새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중"이라고 덧붙였다.

이날 불거진 개인정보 유출과 관련해서도 입장을 내놨다. 스캐터랩은 "이루다를 개발하는 과정에서 본사가 제공하고 있는 서비스 연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있다"면서 "사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 사용자분들께서 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감하며 진심으로 사과드린다"고 밝혔다.

또 "데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거돼 있다"면서 "전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다"고 밝혔다. 이어 "향후로는 데이터 사용 동의 절차를 명확하게 하고 식별 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다"고 덧붙였다.

아울러 "스캐터랩은 일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다"면서 "누구에게나 친구가 되어줄 수 있는 AI를 만들기 위해 앞으로도 더욱 노력하겠다"고 밝혔다.

한편, 이루다를 둘러싼 논란은 일부 남초(男超) 사이트에서 '이루다 성노예 만드는 법' 등 성희롱 내용이 등장하면서 불거졌다. 특히 AI 챗봇이 장애인과 성소수자 등에 대한 혐오성 발언을 하면서, 사회적으로 AI 윤리문제를 촉발시켰다. 이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다. 자연스러운 대화 능력으로 이용자가 40만 명을 넘기는 등 크게 주목을 받아왔다. 황병서기자 BShwang@dt.co.kr