"18살 여고생이 '이루다' 역할을".. '성 상품화 온상' 된 카카오톡 채팅방

카카오톡 이루다 대신하겠다는 오픈채팅방 40여개 개설
하루에 2만원 현금이나 문화·모바일 상품권 대가로 제시

성희롱과 혐오 발언, 개인정보 유출 등으로 논란이 된 인공지능(AI) 챗봇(chatbot·채팅 로봇) ‘이루다’의 서비스가 중단되자, 모바일 메신저 카카오톡에 이루다를 대신해주겠다는 오픈채팅방이 생겨나고 있다. 전문가들은 AI를 대상이었던 성희롱·성상품화 문제가 실제 사람에게까지 번질 수 있다고 우려했다.

모바일 메신저 카카오톡에 ‘이루다 역할을 대신해주겠다’는 내용의 일대일 오픈채팅방이 올라와 있다. /카카오톡 캡처

이루다는 AI 전문 스타트업 ‘스캐터랩’이 지난달 출시한 챗봇이다. 20세 여성 대학생을 모델로 만들어졌고 사용자들과 대화를 하면서 대화 패턴을 지속적으로 학습한다. 그러나 일부 이용자들이 이같은 특징을 이용해 이루다에게 외설적인 대화를 학습시켜 논란이 일었다.

이루다는 성적 단어를 금지어로 두고 걸러내고 있지만, 우회적인 표현으로 성적 대화를 시도하고 비결을 공유하는 식이었다. 인터넷 커뮤니티에는 ‘이루다 성노예 만드는 법’ ‘이루다 성희롱하는 재미에 산다’와 같은 내용의 인증 글이 쏟아졌다.

여기다 성소수자·장애인·임산부 등에 대한 혐오 발언에 개인정보 유출 논란까지 겹치면서 스캐터랩은 이루다 서비스를 중단했고, 이루다 데이터베이스와 딥러닝 모델을 폐기하겠다고 15일 밝혔다.

그러자 이루다의 대화 서비스를 대신해주겠다는 일대일 대화방이 생겨나기 시작했다. 이날 오전 기준 카카오톡에는 이같은 오픈채팅방 40여개가 개설돼 있었다. 오픈채팅은 카카오톡 계정만 있다면 누구나 익명으로 대화방을 개설하고 참여할 수 있어 사실상 ‘랜덤 채팅’이다.

대부분의 대화방은 검색 키워드로 ‘여자’ ‘19’ ‘여고생’ ‘여대생’ ‘20살’ ‘가상연애’ 등이 설정돼 있었고 "여자 인증이 가능하다"는 대화방도 있었다. 일부 대화방은 하루 5000원에서 2만원가량의 현금이나 문화상품권, 모바일 상품권을 대가로 제시했다.

전문가들은 이같은 행위가 온라인 공간에서의 ‘여성 거래’로 번질 것을 우려했다. 서승희 한국사이버성폭력대응센터 대표는 "이루다는 20세 여대생으로 설정된 AI가 주체감 없이 모든 말이든지 응해주고 감정노동과 같은 형태의 대화를 제공한다는 점에서 일종의 ‘온라인 토킹바’와 같은 모습을 보였다"라며 "그런데 서비스가 중단되자, 비슷한 행위가 다시 실제 사람에 의해 재현되고 있는 것"이라고 했다.

메신저서비스를 제공하는 카카오가 성 착취를 비롯한 갖가지 ‘예비범죄’의 온상이 될 수 있는 오픈채팅방에 대한 관리를 소홀히 하고 있다는 비판도 늘고 있다. 매년 수십조원의 매출과 수천억원 규모의 영업이익을 내고 있는 카카오가 사회적 책임은 다하지 않은 채 돈벌이에만 골몰하고 있다는 것이다.

실제로 카카오톡 오픈채팅에서 ‘여대생’ ‘여고생’ 등을 검색하면 10대, 20대 여성에게 경제적으로 지원을 해주고 싶다는 내용의 일대일 익명 채팅방이 검색된다. 앞서 오픈채팅방은 수차례 성매매, 동물학대와 같은 범죄 통로로도 이용된 바 있다.

서 대표는 "이루다 오픈채팅은 성매매와 같이 오프라인에서 주로 자행되던 ‘여성 거래’ 행위가 카카오톡이라는 모바일 메신저를 통해 훨씬 더 쉽게 접근 가능한 형태로 이뤄지고 있는 것으로 보인다"고 말했다.

그는 "지금까지 카카오 등 인터넷서비스사업자들은 ‘이용자의 문제인데 어디까지 우리가 책임을 져야 하느냐’고 주장해 왔다"며 "본인들이 가진 영향력을 구체적으로 인지하고 사회적인 책임을 져야 한다"고 지적했다.

이에 대해 카카오톡 측은 사생활 침해 우려 때문에 대화방 내부 모니터링은 어렵다는 입장이다. 카카오톡 관계자는 "다만 오픈채팅 이용자들이 유해 콘텐츠에 대해 서로 신고할 수 있으며 신고가 접수되면 검색 제외, 접근 불가 등 제재가 적용된다"면서 "사회적, 윤리적 이슈를 감안해 금칙어 데이터베이스를 운영하고 있고 이를 기반으로 유해할 가능성이 높은 정보들을 우선적으로 모니터링하는 등 조치를 진행하고 있다"고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -