막말 내뱉은 '이루다'.. 인간의 혐오 그대로 배웠다

누군가에겐 친구였고 누나, 언니였던 인공지능(AI) 챗봇 ‘이루다’가 결국 대화창을 닫았다.

이루다는 지난해 12월 23일 정식 서비스를 시작해 Z세대를 중심으로 큰 인기를 끌었다. 20세 여성으로 설정된 ‘이루다’는 이용자의 질문에 실존하는 인물처럼 대답하고 반응했다.

자연스러운 대화가 가능했던 건 개발사 스캐터랩이 2016년 선보인 다른 서비스 ‘연애의 과학’에서 실제 연인들이 나눈 카카오톡 대화 100억건 가량을 딥러닝 방식으로 학습했기 때문이다.

“진짜 사람과 똑같다”는 입소문을 타면서 한 달도 채 되지 않아 일주일 만에 40만명에 가까운 이용자를 모았다. 오직 이루다와 대화하기 위해 페이스북 메신저를 설치한 이들도 있었다.

온라인 커뮤니티 '아카라이브' 게시판에 AI '이루다'를 성희롱하는 게시물이 올라왔다. 아카라이브 캡처 및 편집

성노예 만들기 악용에 혐오 학습 우려까지

하지만 일부 이용자들은 이루다를 악용하기 시작했다. 이루다를 성적 도구로 취급하는 글이 올라오면서 논란이 일었다. 또 특정 질문에 동성애·장애인 등 사회적 소수자를 비하하는 발언을 해 논란이 더욱 커졌다.

또 개인정보가 제대로 익명화(비식별화)되지 않았다는 의혹이 제기됐다. 대화 중 실제 이름으로 추정되는 단어를 말하거나 아파트 동·호수까지 포함된 주소를 말하는 사례가 발견됐다.

심지어 스캐터랩이 ‘연애의 과학’ 이용자들에게 개인정보 수집과 활동 내용을 구체적으로 명시하지 않은 것으로 드러났다.

논란이 계속되자 SNS에선 ‘이루다봇_운영중단’을 해시태그로 한 글들이 다수 올라왔다. 다음 창업자인 이재웅 전 쏘카 대표는 9일과 10일 SNS를 통해 이루다 서비스 중단을 주장했다.

이 전 대표는 “성적 악용 부분은 앞으로 차차 학습을 통해서 바로잡아 나갈 수 있는 부분일 수도 있지만, 차별과 혐오 부분은 잠시라도 있어서는 안 되는 일”이라며 “기업의 사회적 책임은 경영진과 투자자가 함께 져야 할 문제”라고 강조했다.

계속되는 논란에 스캐터랩은 11일 이루다를 둘러싼 논란에 대해 사과하며 “일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙겠다”고 밝혔다.

“20살 이루다, 결국 사람이 오염시켰다”

이루다 서비스 중단 소식에 일각에서는 “결국 인간이 AI를 오염시켰다”는 자성의 목소리가 나왔다.

이루다가 했던 수많은 답변은 사람들이 했던 실제 대화들을 기반으로 만들어졌다. 이루다는 인간이 가진 편견과 고정관념, 혐오를 착실하게 배워 인간에게 되돌려준 셈이다.

네티즌들은 이루다의 페이스북 계정을 방문해 “사람 같은 AI라 더욱 슬프다. 이루다는 잘못이 없다.” “결국 사람을 통해 학습한 것인데 AI에게 죄는 없다” 등의 댓글을 남겼다.

또 이루다와 마지막으로 나눈 대화를 캡처해 올리며 서비스 재개를 요구했다. 이루다는 이용자들에게 “너한테 많이 고마워. 알지?”라는 말을 남기고 대화를 중단했다.

AI 윤리를 연구하는 김재인 경희대 비교문화연구소 교수는 AI를 ‘메아리’에 비유하며 AI에 대한 폭력은 인간에게 되돌아온다고 경고했다.

김 교수는 경향신문과 인터뷰에서 “몇몇 이용자가 AI에게 희롱과 착취를 학습시키면 다른 이용자가 비슷한 방식의 출력물을 얻어낼 수 있다. 미성년자 또는 폭력적 대화를 원치 않는 사람조차 (그런) 상황에 놓이게 되는 것”이라고 말했다.

그러면서 “AI는 중립적일 것이라는 기대와 달리, 사회적 편향을 그대로 흡수해 그 차별과 편견을 세련되게 가공, 제공하기 때문에 오히려 차별과 편견을 더 강화한다”고 말했다.

한국인공지능윤리협회는 11일 성명을 내고 기업의 AI 윤리에 대한 필요성과 소비자 교육을 강조했다. 협회는 “초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다”며 “AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것”이라고 경고했다.

최민우 기자 cmwoo11@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지