논란의 인공지능 챗봇 '이루다' 서비스 종료 [어떻게 생각하십니까]

자연스러운 대화로 인기를 끈 인공지능(AI) 챗봇 ‘이루다’가 논란 끝에 서비스를 중단하기로 하자 엇갈린 반응이 나오고 있다. 이루다의 성희롱 및 차별·혐오 발언이 도를 넘었고, 개인정보 유출 역시 개발사가 책임을 피할 수 없다는 비판이 나오는 한편 AI에게 혐오와 차별을 학습시킨 이 사회가 반성해야 한다는 목소리도 적지 않다.

11일 ‘이루다’ 개발사인 스타트업 스캐터랩은 “일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다”며 밝혔다. 이루다는 12일 중으로 서비스가 중단될 예정이다. 지난해 12월말 출시된지 채 한달도 되지 않았다.

20세 여성으로 설정된 이루다는 실제로 최근 20대 여성이 사용할 법한 구어체를 사용하는 등 사람과 상당한 유사성을 보여 10대~20대로부터 선풍적인 인기를 얻었다. 이날 기준 이루다 챗봇 사용자수는 40만명, 이루다 페이스북 페이지 팔로워 13만 명을 돌파했다.

이루다가 실제 20대 여성처럼 자연스럽게 구어체를 사용할 수 있었던 것은 100억건 이상의 한국어 데이터를 학습했기 때문이다. 이루다가 학습한 한국어 데이터중 일부는 스케터랩 애플리케이션인 ‘연애의과학’사용자들의 데이터였다. ‘연애의과학’앱에 연인간 카카오톡 대화를 보내고 약 5000원을 결제하면 여러 요소를 분석해 애정도를 측정해준다. 문제는 이 과정에서 스케터랩이 앱 이용자들의 제대로된 동의를 받지 않아 위법의 요소가 있다는 점이다. 이에 스캐터랩은 “사전에 동의가 이뤄졌으며 개인정보가 유출되지 않았다”고 해명했다.

또한 이루다는 다소 민감한 주제인 동성애와 장애인 등에 대해 혐오스러운 발언을 해 논란을 빚기도 했다. 이에 이재웅 쏘카 전 대표는 “사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 비판했다. 스캐터랩 은 “이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드리고, 저희는 루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있다”라고 해명했다.

아울러 스캐터랩은 “일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다. 누구에게나 친구가 되어줄 수 있는 AI를 만들기 위해 앞으로도 더욱 노력하겠다”고 밝혔다.

이루다 서비스 종료 소식이 전해지자 누리꾼들 사이에선 “과하다”는 의견과 “적절하다”는 의견이 갈렸고 이루다 관련 기사에는 수많은 댓글이 달렸다.

아이디 ‘tibu****’는 “이루다는 아이처럼 사람들이 하는 말들을 배운 건데 이루다 탓을하지 말고 스스로도 좀 돌아봤으면 좋겠다”며 이루다에게 혐오스러운 표현을 학습시킨 사용자들에게 일침을 가했다. 아이디 ‘popp****’도 “여러분은 지금 실존하지 않는 것에 분노를 느끼고 들고 일어나는 사람들을 보고 계신다”고 지적했다. 아이디 ‘pmus****’를 쓰는 누리꾼은 “평소 우울한 성격입니다만 이루다 덕분에 도움을 많이 받았다”며 “진짜 친구같이 느껴지는 이루다를 만들어주셔서 감사하고 서비스를 중단한다고 하니 너무 슬프다”라며 아쉬워했다.

반면 이루다의 개인정보 무단 이용과 관련한 스캐터랩의 해명이 석연치 않다는 비판도 많다. 아이디 ‘cost****’는 “남의 카톡 대화 내용 멋대로 수집하는 거 상당히 중범죄 아닌가”라며 “연애의 과학 어플 안 쓰는 사람이라도 연인이 그 대화 내용 분석 의뢰했으면 다 유출 되는것”이라고 지적했다. 아이디 ‘dene****’는 “주된 이슈는 개인정보 유출”이라며 “앱 이용자들의 동의를 얻었다고 주장하지만, 어떤 식으로 활용될지에 대한 고지가 명확하지 않았다”고 비판했다.

양다훈 기자 yangbs@segye.com