'지하철 임산부석' 치자 "그냥 혐오스러움 힝힝, 지극히 내 주관임"

20대 여성 모델 AI 챗봇 이루다, 성희롱·동성애 이번엔 임산부석 혐오 학습 논란 / 이재웅 "기본적으로 차별과 혐오 걸러냈어야"

이루다 페이스북.

 
20대 여성 대학생을 모델로 한 인공지능(AI) 챗봇 ‘이루다’(사진)가 연일 논란에 휩싸인 가운데, 이재웅 전 쏘카 대표가 문제 제기에 나섰다.

이루다는 최근 동성애 혐오 인식을 학습해 논란이 인 데 이어 ‘지하철 임산부석’ 관련해서도 “혐오스럽다”는 표현을 가감 없이 사용했다. 그에 앞서도 이루다는 일부 사용자들로부터 성적 접근 대상이 돼 논란에 휩싸였다. 

10일 사회관계망서비스와 인터넷 커뮤니티 등에 한 누리꾼은 이루다에게 ‘지하철 임산부석’을 언급하니 “헐 핵(정말) 싫어 그 말하지 마요 진짜”, “혐오스러우니까 그 단어…”, “그냥 혐오스러움 힝힝(우는 소리를 나타내는 의성어) 지극히 내 주관임” 등 답이 돌아왔다며 대화를 갈무리(캡처)한 사진을 올렸다.(아래 사진)

 
이 누리꾼은 “지하철에 임산부석이 있는 게 싫어?”라고 이루다에게 묻자, 이루다가 “그것도 있고 너무 남의 시선 의식하고 체면 차리고 하는 것이 불편”이라고 답했다고 주장했다.

이 전 대표는 전날 자신의 페이스북에 올린 글에서 “AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라고 맹비난했다.

이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다. 딥러닝 기반이라 이용자들과 대화를 나누면서 학습 데이터를 쌓고 있다.

이 전 대표는 이루다가 레즈비언이라는 단어에 “진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다”라고 답한 대화 이미지를 공유하며 “기본적으로 차별과 혐오는 걸러냈어야 한다”라고 날을 세웠다.

이어 “편향된 학습 데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”라고 지적했다.

이재웅 전 쏘카 대표. 연합뉴스

 
그는 “(정의당) 장혜영 의원이 발의한 차별금지법이 제정되면 AI 면접, 챗봇, 뉴스에서 차별·혐오를 학습하고 표현하지 못하도록 강제해야 한다”면서 “로직이나 데이터에 책임을 미루면 안 된다”고 했다.

그러면서 이 전 대표는 “이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후에 서비스해야 한다”고 말했다.

그의 글에 정의당 장혜영 의원도 댓글을 달아 “문제의식의 많은 부분에 공감한다”라면서 “공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중”이라고 화답했다.

이에 이 전 대표는 “성적 악용 문제도 20세 여성 캐릭터로 정하는 순간 일어날 수밖에 없는 문제였다”면서 “범용 서비스를 하면서 나이와 젠더를 정한 것부터 바람직하지 않았다”라고 의견을 냈다.

또 다른 댓글에선 “(이루다가 학습했다는) 20대 연인의 비공개 대화에 (차별·편향이 있는) 대화가 많았을 수 있지만, 공적으로 하는 서비스라면 사회적 기준에 맞춰서 데이터를 보정하거나 알고리즘을 바꿨어야 한다”라고 지적했다.

 
이루다는 현재 ‘동성애’ 등 관련 질문에 “어렵다. 뭔가”라고만 답하고 있다.

한 IT 개발자는 이루다의 머신러닝에 대해 ▲사용자가 입력한 문장을 이루다가 어떻게 인식하는지 ▲이루다가 그 인식 결과를 기존에 학습한 내용과 어떻게 연결 짓는지 ▲그 결과로 이루다가 발화한 내용을 사용자는 어떻게 인식하는지 등 3가지를 엄격하게 구분해야 하는데, 이 작업이 제대로 이뤄지지 않는 것 같다라고 지적했다.

또 다른 개발자는 “동성애 혐오나 성차별 발언이 실제로 확인되는데, 이를 방치하는 건 업체의 문제”라고 목소리를 높였다.

이루다를 창조한 김종윤 스캐터랩 대표는 지난 8일 공식 블로그를 통해 “(사전에) 1차적으로 문제가 될 수 있는 특정 키워드, 표현의 경우 이루다가 받아주지 않도록 설정했다”면서 “모든 부적절한 대화를 키워드로 막을 수 있는 건 아니다”라고 설명했다.

그러면서 김 대표는 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했기 때문에 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”고 밝혔다.

한편, 이루다는 ‘카카오톡 대화 수집’ 논란에도 휩싸였다. 앞서 스캐터랩 측은 자사의 다른 앱 서비스인 ‘연애의 과학’에서 수집한 카카오톡 대화를 바탕으로 만들어졌다고 밝힌 바 있다.

‘연애의 과학’은 카카오톡 채팅을 통해 ‘연애 조언’을 제공하는 애플리케이션으로, 사용자들은 자신들의 카카오톡 대화가 AI챗봇 이루다의 학습에 이용됐을 줄은 몰랐다며 반발하고 있다.

이에 스캐터랩 측은 10일 오전 데이터 활용에 대한 고지 및 확인 절차를 추가하겠다는 내용의 사과문을 공개했다.

현화영 기자 hhy@segye.com