'AI 챗봇' 윤리 문제 쏘아올린 이루다 서비스 잠정 중단

[사진출처 : 스캐터랩 공식 홈페이지]

장애인·여성 차별 발언에 이어 개인정보 유출 등 각종 논란에 휩싸인 인공지능(AI) 챗봇 '이루다' 가 서비스를 잠정 중단한다.

이루다 개발사인 스타트업 스캐터랩은 11일 오후 보도자료를 내 "부족한 점을 집중적으로 보완할 수 있도록 서비스 개선 기간을 거쳐 다시 찾아뵙겠다"고 밝혔다.

다만 이날 오후 9시30분 현재까지는 기술적으로 서비스 중단 적용이 이뤄지지 않아 이루다는 정상 서비스를 제공하고 있다.

스캐터랩 측은 "조속히 서비스를 잠정 정지할 것"이라고 말했다.

스캐터랩 측은 이날 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"며 "그런 발언은 회사의 생각을 반영하지 않고 있으며, 차별·혐오 발언이 발견되지 않도록 지속해서 개선 중"이라고 밝혔다.

[사진출처 : 스캐터랩 공식 홈페이지]

개인정보 유출 의혹에 대해선 "개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못했다"며 사과했다.

그러면서 스캐터랩은 "이름·닉네임·이메일 등 구체적 개인정보는 이미 제거돼있으며, 전화번호·주소 등 모든 숫자 정보도 삭제했다"며 "비식별화·익명화를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다.

이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.

자연스러운 대화 능력으로 최근 이용자가 약 75만명에 달하는 등 크게 주목을 받았다. 하지만 악성 이용자로부터 성적 도구 취급에 시달리더니 동성애·장애인·여성 차별 발언을 내놓기도 해 논란이 됐다.

한국인공지능윤리협회는 앞서 이날 "AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다"며 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황에서 이루다 서비스를 중단하라"고 첫 성명서를 발표했다.

[방영덕 매경닷컴 기자 byd@mk.co.kr]

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]