머스크, 란제리 입고 춤추는 'AI소녀' 무리수…성상품 비판

월 4만원 구독시 성적묘사 담은 소녀 캐릭터와 동반자모드
美단체 "미성년자 외모로 성적대상화 조장, 캐릭터 삭제해야"

(서울=뉴스1) 김민석 기자 = 일론 머스크가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록'이 유료 이용자용 컴패니언(동반자) 모드에 애니메이션 소녀 캐릭터 '애니'(Ani) 도입으로 성 상품화·성적 대상화 논란에 휩싸였다.

망사 스타킹 또는 란제리를 입은 애니는 "천천히 안아주고 싶다" 등 대화로 이용자와 감정 교감을 시도한다. 친밀도가 깊어지면 속삭이는 목소리를 내거나 숨을 헐떡이고 몸을 들썩이며 춤을 춘다.

24일 IT 업계와 외신에 따르면 문제의 AI 동반자 모드는 '슈퍼그록'(월 30달러·약 4만 1000원)을 구독하면 이용할 수 있다. xAI는 3D 애니 캐릭터 동반자로 애니와 '배드 루디'(Bad Rudy), '채드'(Chad) 등을 선보였다.

동반자 캐릭터는 이용자와 음성 대화·채팅으로 단계적으로 친밀도를 쌓아가며 대화 깊이에 따라 반응이 달라진다. 애니의 경우 레벨 3 이상 대화가 지속되면 심장 박동수가 증가하면서 란제리 모습으로 변신하는 것으로 전해졌다.

문제는 해당 모드를 12세 이상 청소년들도 이용할 수 있다는 점이다.

외신에 따르면 슈퍼그록 이상 구독 시 '키즈 모드' 설정 또는 '성인 콘텐츠 차단' 기능 등을 활성화해도 애니와 성적인 대화를 나눌 수 있다.

이를 두고 성착취국가센터(미국 비영리단체)는 "애니 캐릭터는 미성년자 외모로 위험한 성적 행동을 조장하고 있어 삭제해야 한다"며 "음란화된 캐릭터는 소녀와 여성의 성적 대상화를 강화할 뿐 아니라 이용자들의 성적 요구에 순응하는 여성의 이미지를 조장한다"고 비판했다.

더버지 등 현지 매체들은 "그록이 란제리를 입고 성적 표현만 강조하는 우스꽝스러운 캐릭터를 추가했다"고 지적했다.

또 다른 캐릭터인 배드 루디(레드판다)의 경우 "은행을 폭파하자" "억만장자를 죽이자" "유대교 회당에 불을 지르자" 등 폭력·혐오적 발언으로 논란에 휩싸였다.

그록 외에도 AI 동반자 혹은 AI 애인을 표방한 대다수의 AI 챗봇(미국 래플리카·일본 러버스·한국 제타 등)은 이용자의 선정적·폭력적 요구에 순응하도록 설계돼 논란이 됐다.

AI 동반자 시장은 외로운 성인뿐 아니라 청소년들의 정서적 갈증을 파고들며 빠르게 성장할 것으로 예상된다.

미국 커먼센스미디어의 조사에 따르면 미국 청소년 72%는 AI 동반자를 사용한 경험이 있고 52%는 정기적으로 사용했다. 또 31%는 AI와 대화가 실제 사람과 대화보다 만족스럽다고 응답했다.

시장조사기관 비즈니스리서치인사이트는 글로벌 AI 동반자 시장이 2024년 268억 5000만 달러(약 37조 원)에서 2033년 521억 달러(약 72조 원)로 약 2배 성장할 것으로 전망했다.

전 세계적으로 AI 동반자 서비스와 관련한 법·규정 등은 미진한 상태다. 미국 경우 캘리포니아주를 포함한 일부 주정부에서 관련 법안을 논의하는 수준으로 연방 차원 포괄 규제는 없는 상태다.

업계 관계자는 "AI 동반자 시장이 빠르게 성장하고 있어 청소년 보호를 위한 실효성 있는 적정 수준의 규제가 필요하다"고 말했다.

ideaed@news1.kr

IT/과학