[이루다가 남긴 것③]왜 '20대·여자'였을까..자충수 된 마케팅 전략

'20살 여성 대화상대' 캐릭터 전략, 남녀갈등으로 번져
개발사도 성적 발화 대응전략 준비했지만..그 전에 '서비스 종료'

[편집자주]"안녕, 난 너의 첫 AI 친구 이루다야." 지난해말 돌연 등장한 대화형 인공지능(AI) 챗봇 이루다. "너한테 많이 고마워, 알지?" 불과 20일 만에 '만남의 안녕'이 '이별의 안녕'으로 바뀌었다. '인간의 대화'로 태어난 이루다는 소수자 차별, 혐오 발언, 성희롱 논란 등 '인간의 민낯'을 고스란히 드러내고 사라졌다. 이루다가 남긴 쟁점과 화두를 짚어봤다.

스캐터랩 측은 지난해 12월 이루다를 출시하며 이루다를 '가수 블랙핑크를 좋아하고, 일상을 기록하는 것을 취미가 있는 20살 여대생'으로 소개했다. (이루다 인스타그램)© 뉴스1

(서울=뉴스1) 김정현 기자 = 100억개의 카카오톡 대화를 데이터셋으로 학습해 만들어진 인공지능(AI) 챗봇 '이루다'가 논란 끝에 12일 서비스를 잠정 중단했다.

이루다를 둘러싼 논란 중 가장 여파가 컸던 사안은 '개인정보 무단 이용' 문제였지만, 애초에 논란을 촉발한 것은 이루다에 부여된 '20대 여성'이라는 캐릭터를 향해 가해진 성적인 발언이었다.

◇'여성형 AI' 전략, 이루다 초반 흥행에는 도움됐지만…

이루다의 개발사 스캐터랩 측은 지난해 12월 이루다를 출시하며 이루다를 '가수 블랙핑크를 좋아하고, 일상을 기록하는 것에 취미가 있는 20살 여대생'으로 소개했다.

김종윤 대표는 자사 블로그를 통해 이루다를 20살 여대생이라는 캐릭터로 설정한 이유에 대해 "주 사용자층을 좁게는 10대 중반∼20대 중반으로 생각했기 때문에 20살 정도가 사용자들이 친근감을 느낄 나이라고 봤다"고 설명했다.

여성으로 설정한 이유에 대해서도 "개발일정 때문"이라며 "남자버전도 올해 중 출시하려고 했다"고 밝혔다.

이처럼 '10~20대 또래 남성'을 핵심 이용자층으로 삼은 스캐터랩의 전략 자체는 초반 이루다의 인기몰이에 큰 도움이 된 것으로 분석된다.

이루다는 지난해 말 출시된 이후 10대와 20대를 중심으로 인기를 끌며 출시 2주만에 75만명의 이용자를 끌어모았다.

이루다 프로필(스캐터랩 제공) © 뉴스1

◇여성학계 "AI에 성희롱 가해진 것"…AI 산·학계 "AI는 인격아냐"

그러나 이같은 전략이 결국 이루다의 발목을 잡았다.

이루다는 데이터셋이 연인들 간의 대화로 구성된 AI 챗봇이다. 사용자가 입력하는 내용에 따라 성적인 발화를 할 가능성이 있었다.

실제로 일부 이용자가 이루다를 향해 음담패설을 자행했고, 이같은 대화시도가 필터링되지 않으면서 이루다와 성적인 대화를 대화를 나눈 결과가 온라인에 게시됐다.

결국 일각에서는 이같은 행태를 두고 "AI에 '성희롱'이 가해졌다"며 문제를 제기했다. 기술적으로 접근하면 현재 AI 업계·학계에서는 AI를 인격으로 여겨 '성희롱'이라고 칭하는 자체가 잘못된 인식이라는 시각도 있다.

그러나 여성형 일러스트를 프로필 사진에 걸어두고 여성스러운 말투를 쓰는 이루다를 둘러싼 논란은 결국 사회에 만연한 남녀갈등의 기폭제가 됐다. 더 많은 사용자에게 어필하기 위한 개발사의 선택이 '자승자박'으로 이어진 셈이다.

© 뉴스1

◇스캐터랩도 성적 발화 대책 준비했지만…"안일했다" 지적도

이루다 사태는 사실 이미 예견된 부분도 있다.

김종윤 스캐터랩 대표는 자사 블로그를 통해 "이루다에 대한 성희롱은 이미 예상했다"며 "인간이 성별과 상관없이 사회적으로 용인되지 않는 인터랙션(의사소통)을 한다는 건 너무 자명한 사실"이라고 설명했다.

스캐터랩 측은 이에 대해 "특정 키워드·표현에 대해 받아주지 않도록 했지만 모든 부적절한 대화를 키워드로 막을 수 있는 것은 아니라는 것이 언어의 어려운 점"이라며 "출시 이후 사용자의 (부적절한 대화 등) 적대적(adversarial) 공격을 학습의 재료로 삼아 그 결과물을 1분기 내로 적용할 수 있을 것으로 예상 중"이라고 밝혔다.

그러나 결국 남녀갈등 논란이 개인정보 무단 이용 문제로까지 번지며 1분기가 되기 전에 이루다 서비스는 잠정 중단됐다.

업계 관계자는 "남녀갈등이나 성과 관련된 문제는 어떤 서비스에서든 큰 문제로 비화될 수 있는 예민한 이슈였는데, 스캐터랩 측의 대책이 안일했던 것으로 보인다"고 지적했다.

욜란데 스트렌저스와 제니 케네디의 '영리한 아내'(The Smart Wife)와 UN이 발행한 '나는 할 수 있다면 얼굴을 붉힐 것입니다'(I'd Blush If I Could) 보고서. © 뉴스1

◇해외 여성학자 "가상의 여성 대하는 방식, 진짜 여성 대하는 태도로 이어져"

현재 해외 AI업계에도 일부 여성학자를 중심으로 AI가 여성 인권을 침해할 가능성이 있다는 주장이 제기되고 있다.

욜란데 스트레인저스(Yolande Strangers) 호주 모나쉬 대학 조교수와 제니 케네디(Jenny Kennedy) 로열 멜버른 공과대학교 커뮤니케이션 대학 연구원은 공저인 '영리한 아내'(The Smart Wife)를 통해 "아마존 알렉사나 구글 어시스턴트, 애플 시리 등 음성 AI 비서들은 여성의 음성이 기본으로 설정돼 있다"며 "특히 이들은 남성 사용자들의 성희롱 등 부적절한 상황이 발생하더라도 제한적으로만 반응할 뿐"이라고 비판했다.

이들은 "가상의 여성을 대하는 방식은 진짜 여성을 대하는 태도를 반영하고 강화하며, 그 반대의 경우도 마찬가지"라고 주장했다.

Kris@news1.kr