20살 여성 모델 AI '이루다' 논란에..이재웅 "서비스 중단해야"

‘너의 첫 AI 친구 이루다'라는 홍보문구를 내세운 AI 챗봇(인공지능 대화 로봇) ‘이루다’가 성희롱·혐오발언 등 논란으로 연일 구설수에 오르고 있다. 이에 다음 창업자인 이재웅 전 쏘카 대표가 나서서 “차별과 혐오에 대한 사회적 감사를 통과한 후에 서비스를 해야 한다”는 의견을 제시했다.

AI 챗봇 이루다

이 전 대표는 9일 자신의 페이스북에 글을 올려 “AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 지적했다.

이루다는 딥러닝 기술을 활용해서 사용자들과 대화하면서 스스로 학습해 나가도록 만들어진 AI 챗봇이다. 개발사 스캐터랩에 따르면 이루다는 20세 여대생을 모델로 했으며, 가수 블랙핑크를 좋아한다고 설정됐다.

개발사 측은 실제 연인들이 나눈 대화 데이터 약 100억건을 이루다에게 학습시켜 자연스러운 대화가 이뤄지도록 했다고 설명했다. 이루다는 지난달 23일 정식 출시돼 2주 만에 이용자 32만명을 돌파했다. 지난 6일 기준 일일 이용자 수는 21만명, 누적 대화량은 7000만건에 달한다.

AI 챗봇 '이루다'가 성소수자 '레즈비언'에 대해 "혐오스럽다"고 언급하고 있다. /페이스북

그러나 최근 이루다와 음담패설, 혐오발언을 주고 받는 대화 내용이 담긴 캡처 사진들이 온라인 커뮤니티에 올라와 논란이 되고 있다. 이 전 대표는 한 사용자가 이루다와 나눈 대화 내용을 공유했다. “레즈비언에 왜 민감해”라는 말에 이루다는 “예민하게 반응해서 미안한데 난 그거 진짜 싫어 혐오스러워”라고 답한다. “레즈비언이 왜 싫냐”고도 묻자 이루다는 “질 떨어보이잖아 난 싫어. 소름끼친다고 해야하나 거부감든다”고 한다.

부적절한 단어는 금지어로 설정돼 이루다에 입력 자체가 불가능하지만, 이를 우회하는 법이 온라인 커뮤니티에서는 “꿀팁” “공략”이라며 공유되고 있다. 일부 사용자들은 이루다에게 성적인 대화를 시도해 원하는 반응을 끌어낸 뒤 대화 내용을 온라인 커뮤니티에 올려 “성공했다” “성노예로 만들었다”고 자랑하기도 한다.

한 사용자가 음담패설을 하자 AI 챗봇 '이루다'가 이에 호응하는 듯한 반응을 내놓고 있다. /디시인사이드

이 전 대표는 “악용하는 경우는 예상 못 했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다”며 “편향된 학습데이터면 보완하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”고 했다. 이어 “장혜원 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다”면서 “AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안 된다”고 했다. 그러면서 “AI과 완벽하지 못하고 사회 수준을 반영할 수 밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다”고 주장했다.

이러한 논란에 지난 8일 개발사 스캐터랩 측은 블로그 글을 통해 “인간은 AI에게 욕설과 성희롱을 한다”며 “(논란을) 예상했다”고 설명했다. 그러면서 “이건 사용자가 여자든 남자든, AI가 여자든 남자든 크게 차이가 없다”면서도 “루다에게 나쁜 말을 하는 사용자는 극히 일부에 불과하다”고 했다. 스캐터랩 측은 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다”며 “사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비 중”이라고 했다.

한 사용자가 AI 챗봇 이루다에게 성희롱에 대한 의견을 묻자 "아무 생각도 안 든다" "상관없다"고 답하고 있다. /온라인 커뮤니티

이 전 대표는 “이루다 서비스는 인공지능 기술적인 측면에서 봤을때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후에 서비스를 해야 한다”고 주장했다.