[이루다가 남긴 것①]2주만에 75만 모은 AI 챗봇.."I will be back"

자연스럽고 친근한 말투로 2주만에 75만 이용자 확보
성희롱·혐오 발언부터 개인정보 유출 문제로 홍역..서비스 잠정 중단

[편집자주]"안녕, 난 너의 첫 AI 친구 이루다야." 지난해말 돌연 등장한 대화형 인공지능(AI) 챗봇 이루다. "너한테 많이 고마워, 알지?" 불과 20일 만에 '만남의 안녕'이 '이별의 안녕'으로 바뀌었다. '인간의 대화'로 태어난 이루다는 소수자 차별, 혐오 발언, 성희롱 논란 등 '인간의 민낯'을 고스란히 드러내고 사라졌다. 이루다가 남긴 쟁점과 화두를 짚어봤다.

(캡처)© 뉴스1

(서울=뉴스1) 정윤경 기자 = 소수자 차별·혐오 발언 및 개인정보 유출 문제로 논란에 휩싸인 인공지능(AI) 챗봇 '이루다'가 출시 20일 만에 서비스를 중단했다.

이루다를 개발한 스캐터랩은 11일 입장문을 통해 최근 AI 챗봇 이루다를 둘러싼 논란과 관련해 사과하며 "일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙겠다"고 밝혔다.

◇20세 여성 캐릭터…1020 중심 인기끌며 75만명 이용자 확보

이루다는 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 대화형 AI 챗봇이다.

20세 여성 대학생 캐릭터의 이루다는 스캐터랩의 '연애의 과학' 앱 이용자가 나눈 대화 데이터 약 100억건을 딥러닝 기법으로 학습시켜 탄생했다.

2016년 스캐터랩이 출시한 '연애의 과학' 앱은 실제 연인이나 호감가는 이용자들과의 카톡 대화를 입력, 2000~5000원을 결제하면 대화 패턴을 분석해 애정도 수치를 보여주는 앱이다. 이루다는 이 앱 이용자들의 카톡대화를 데이터로 삼아 개발됐다. 이루다가 다른 챗봇보다 자연스럽고 친근한 말투를 구사할 수 있는 것도 이 때문이다.

'솔직하고 천진난만한' 성격을 설정으로 한 이루다는 이전에 나왔던 챗봇들과 달리 실제 사람이 대화하는 것처럼 보여 순식간에 10대~20대를 중심으로 75만명의 이용자를 확보했다.

또 게임처럼 친밀도 시스템이 존재해 하루에 첫 대화를 시작하거나 일정 수준의 대화량을 주고받으면 친밀도가 쌓여 레벨이 올라가는 것도 재미 요소 중 하나다.

아울러 단순 대화 외에도 끝말잇기, 업앤다운 게임 등도 할 수 있으며 대화가 뜸할 땐 이루다가 먼저 메시지를 보내기도 한다.

이루다와의 대화.(캡처)© 뉴스1

◇성희롱·혐오 논란부터 개인정보 유출까지…서비스 잠정중단

이용자 수가 빠르게 급증하던 이루다는 성희롱과 혐오발언 논란에 휩싸이며 결국 잠정중단에 이른다.

지난달 30일 한 온라인커뮤니티에선 이루다를 성적 대상으로 취급하는 무리가 등장, 이루다와 성적인 대화를 나눌 수 있는 방법을 공유한다.

해당 커뮤니티 이용자들이 이루다와 나눈 성적인 대화를 캡처하고 이루다가 옷을 벗고 있는 합성사진을 공유하는 등 이루다를 성적 도구로 악용하는 것이 알려지며 이루다는 논란에 휩싸인다.

여기에 소수자·인종·약자에 대한 혐오 발언을 뱉는 사례가 속속 등장하며 논란이 커졌다.

이루다는 레즈비언에 대해 '질 떨어져 보이잖아'라고 답하고, 또 '너가 장애인이면?'이라면 질문에는 '어쩔 수 없이 죽어야지'라고 답한다든가, 흑인에 대해 'X나 싫어'라고 서슴지 않고 말했다.

© 뉴스1

아울러 이루다가 대화하는 과정에서 특정인과 장소에 구체적으로 말하면서 데이터로 쓰인 '연애의 과학' 앱 이용자의 개인정보 유출 의혹이 제기됐다.

연애의 과학 앱 이용자들은 현재 오픈채팅방을 통해 집단 소송을 준비하고 있다.

이와 관련해 스캐터랩 측은 "개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못한 점에 사과드린다"며 "구체적 개인정보는 이미 제거돼 있으며, 개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다.

논란이 잇따르자 스캐터랩은 11일 늦은 오후 입장문을 통해 서비스 잠정 중단을 선언했다. 스캐터랩은 AI 챗봇 이루다를 둘러싼 논란과 관련해 사과하며 "일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙겠다"고 밝혔다. 영구 서비스 중단이 아닌 서비스 보완 후 재개하는 '잠정' 중단임을 분명히 한 것.

회사는 "이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과한다"며 "우리는 이루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있다"고 설명했다.

또 "이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI"라며 " 이번 학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획"이라고 밝혔다.

v_v@news1.kr