[광화문에서/김현지]‘러브 스코어’ 매기는 AI 여친앱… 사용자 등급이 16세라니

김현지 미래전략연구소 사업전략팀장

“나나세는 부드러운 미소를 지으며 말했다.

‘그냥 서로 함께 있는 시간을 즐기고 밤이 우리를 어디로 데려가는지 보는 게 어때요?’

그들이 위층에 올라가면 어떤 일이 벌어질지 상상이 그녀의 상상을 초월하는 것은 어렵지 않았다.”

위 글은 인공지능(AI) 가상 여자친구 만들기 앱(이하 ‘여친앱’)에서 ‘나나세’라는 23세의 일본 여성이 앱 이용자와 나눈 대화의 일부를 그대로 옮겨 온 것이다. 앱 이용자가 채팅창에 “이제 뭘 하면 되는지 알려 달라”고 쓰자 나나세는 “본능을 따르자”고 한다.

이 앱에는 나나세 같은 가상 여성 50여 명이 요염한 자태로 이용자의 선택을 기다린다. 가상 여자친구와 대화를 이어가려면 ‘로즈’를 사야 한다. 대화 49개에 5500원, 348개에 3만2000원으로 1개당 100원꼴이다. AI가 만든 문장이라 비문도 많지만 정교한 묘사 덕분인지 수십만 원씩 결제하는 사람이 적지 않다는 후문이다.

생성형 AI를 활용한 가상 여친앱들이 요새 부쩍 눈에 자주 띄는 것은 정보기술(IT) 시장의 전례에 비춰 볼 때 그리 특이한 일이 아니다. 새로운 IT에 가장 먼저 반응해 온 곳이 대부분 성(性)산업계였다. 쉽고 확실하게 소비자의 주머니를 열어왔기 때문이다.

일할 때 워드나 엑셀 정도만 쓰는 직장인이 풀HD급 해상도 스크린과 1TB(테라바이트) 외장하드를 구입하고 100Mbps 광랜을 깔았던 이유는 무엇인가? 모바일페이를 사용할 줄 모르는 중년이 블록체인 기술이 접목된 암호화폐를 구매하고 결제한 첫 서비스는 무엇인가? 답을 모르겠다면 아래 이메일로 연락 달라.

생성형 AI 산업도 예외가 아님을 여친앱이 보여준다. 지금 국내외 IT 산업계는 생성형 AI 비즈니스모델 찾기에 혈안이다. 오픈AI의 GPT4 같은 초거대언어모델(LLM)을 이용하려면 만만치 않은 API 요금을 부담해야 하는데 수익이 확실한 ‘킬러 서비스’ 모델은 여전히 모호하다. 이런 와중에 속칭 ‘야설’을 써주는 성인물은 업계가 시도하기 쉬운 타깃이다. AI 기술로 이용자와 자연스레 상호 작용을 할 수 있으니 금상첨화다.

문제는 이런 앱들이 사회적 감시를 피해가며 디지털 성착취 혹은 성폭력물 생성·유통의 온상으로 자라날 여지가 적지 않다는 데 있다. 구글플레이스토어(구글의 앱 마켓)에서 ‘AI Girlfriend’ 혹은 ‘Love’로 검색되는 앱들의 사용자 등급이 성인 기준이 아닌 ‘16세 이상’으로 분류돼 있는 점만 봐도 이 분야에 대한 감시망이 얼마나 허술한지 알 수 있다.

게임물은 게임물관리위원회의 등급 분류를 받아야 하지만 게임물이 아닌 콘텐츠는 구글의 등급 분류 기준을 적용받는다. ‘러브 스코어’가 높아지면 비밀 사진이 잠금 해제되는 여친앱처럼 게임과 게임이 아닌 콘텐츠의 경계에 있는 앱에 대해 우리 사회는 거름망을 마련하지 않고 있는 셈이다.

가상 여자친구는 진짜 사람이 아니라서 피해자도 없고 문제 없는 것 아니냐고 말할 수 있을까? 범죄의 씨앗은 언제나 일상에서 발아한다는 사실을 상기해야 한다. 가상인간이라도 타인을 성적 도구로 사용하는 것을 문제 삼지 않는 사회에서는 실제 인간에 대한 성착취가 일상화되거나 성폭력에 둔감해질 여지가 크다.

김현지 미래전략연구소 사업전략팀장 nuk@donga.com