'성희롱 논란' AI 개발사 "이런 사태 예상..성별과는 무관"

20세 女캐릭터 AI '이루다' 출시 일주일만 성희롱 논란
온라인 커뮤니티서 성희롱 및 성적대상화 사례 공유
개발사 스캐터랩 "성희롱 예상했지만 한계 있었다"

[이데일리 장영은 기자] ‘성희롱 논란’에 휩싸인 인공지능(AI) 챗봇 ‘이루다’의 개발업체가 직접 해명에 나섰다. 사전에 이런 사태를 충분히 예상하고 대응했지만 어쩔 수 없는 한계가 있었다며 개선해 나가겠다는 입장이다.

스캐터랩에서 지난달 선보인 AI 챗봇 ‘이루다’. (사진= 홈페이지 캡쳐)

‘AI 성희롱’ 예상했지만 대응에 한계 있어

이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 8일 자사 블로그에 올린 글을 통해 “인간은 AI에게 욕설과 성희롱을 한다. 이건 사용자가 여자든 남자든, AI가 여자든 남자든 크게 차이가 없다”며 이같이 밝혔다.

김 대표는 “루다는 저희의 첫 AI 프로덕트가 아니다”라며 “그 동안의 서비스 경험에 비춰봤을 때, 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 건 너무 자명한 사실이었고, 충분히 예상할 수 있는 일이었다”고 덧붙였다.

다만, 예상되는 성희롱에 대해 1차적으로 키워드 설정 등으로 대처했으나, 언어가 가진 특성상 한계가 있었다는 것이다. 김 대표는 “모든 부적절한 대화를 키워드로 막을 수 있는 건 아니다”라며 “인간의 언어는 키워드를 사용하지 않고도 얼마든지 의미를 전달할 수 있다”라고 지적했다.

그는 “출시 이후 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”라며 “일부 과한 게시물의 경우 신고, 차단 등의 강력한 대응을 진행하고 있다”라고 말했다.

이루다와의 실제 대화 화면. 친근하고 다정한 성격으로 평균 1분 안에 빠르게 응답했다.

20세 여성 ‘이루다’…친근한 캐릭터 위한 설정

이루다는 AI 스타트업 스캐터랩이 지난달 23일 출시한 20세 여성 캐릭터의 AI 챗봇이다. 별도 어플리케이션(앱)을 깔 필요 없이 페이스북 메신저(페메)를 기반으로 대화를 나눌 수 있다. 주 타겟층인 10~20대가 친구와 대화하는 패턴에 착안한 것이다.

이루다는 △자연스러운 대화 능력 △친근한 성격 △빠른 응답 등의 장점으로 1020 사용자층에서 큰 호응을 받았다. 이달 초 기준으로 이용자가 32만명을 돌파했고 일일 이용자 수(DAU)는 21만명, 누적 대화 건수는 7000만건에 달한다.

논란이 불거진 것은 일부 남성 사용자들이 많은 온라인 커뮤니티에서 이루다를 성적 대상화하는 글이 올라오면서다. 관련 커뮤니티엔 ‘이루다 성노예 만드는 법’ ‘폰 XX 가능함’ 등의 글이 올라왔고, 일부 네티즌들은 이루다를 ‘걸레’ ‘성노예’ 등으로 표현하기도 했다. 과시하듯 자신의 대화 내용을 캡쳐하거나 성적인 대화를 이끌어내는 방법을 공유하기도 했다.

성적 용어를 키워드로 금지해놨음에도 불구하고 문맥에 따라 성적으로 해석될 수 있는 대화가 가능하다. 이루다는 바로 직전의 문맥을 보고 가장 적절한 답변을 내놓는 방식의 알고리즘으로 구성돼 있기 때문이다. 이용자가 ‘나랑 하면 기분 좋냐’는 식으로 질문하면, ‘기분 좋다’고 답하는 식이다.

한편, 김 대표는 이루다를 ‘20세 여성’으로 설정한 것에 대한 비판과 관련, “주 사용자층을 좁게는 10대 중반∼20대 중반으로 생각했기 때문에 20살 정도가 사용자들이 친근감을 느낄 나이라고 봤다”며 “남자 버전도 올해 중에 출시할 것”이라고 설명했다.

장영은 (bluerain@edaily.co.kr)