"저거 완전 '19금' 아니야?"···머스크의 xAI, 때아닌 선정성 논란, 왜?

일론 머스크 테슬라 최고경영자(CEO). 연합뉴스

[서울경제]

일론 머스크가 이끄는 인공지능(AI) 기업 xAI가 새롭게 선보인 이미지·영상 생성 기능이 성인 콘텐츠 제작까지 가능하다는 점에서 공개 직후부터 논란에 휩싸였다.

xAI는 4일(현지시간) 자사 AI 앱 '그록(Grok)'의 iOS 버전에 이미지·영상 생성 기능 '그록 이매진(Grok Imagine)'을 도입했다고 밝혔다. 해당 기능은 유료 멤버십인 '슈퍼그록'(월 30달러·약 4만1000원) 이상 등급에서만 사용 가능하며, 텍스트나 이미지를 프롬프트로 입력하면 최대 15초 길이의 영상을 자동 생성해주는 서비스다.

그 자체로는 구글의 '비오', 오픈AI의 '소라', 어도비의 '파이어플라이' 등과 유사한 형태지만, xAI는 '스파이스 모드(Spice Mode)'라 불리는 성인 콘텐츠 생성 옵션을 별도로 탑재했다. 일부 이용자들은 해당 기능을 이용해 반나체 상태의 여성 영상을 제작했다고 주장하며, 사회관계망서비스(SNS)와 인터넷 커뮤니티를 통해 이를 공유하고 있다.

머스크 본인 역시 출시 당일 자신의 엑스(X) 계정에 '그록 이매진'으로 제작한 영상을 잇따라 게재하며 기능 홍보에 나섰다. 공개된 영상 중에는 얇고 투명한 흰색 레이스 소재의 의상을 입고 등 뒤로 커다란 천사 날개를 단 금발 여성이 등장하는 장면이 포함돼 있다. ‘천사’라는 프롬프트를 바탕으로 제작된 것으로 보인다.

xAI의 선정성 관련 논란은 이번이 처음이 아니다. 지난 AI 기반 대화 기능 'AI 컴패니언(동반자)' 서비스에서도 유사한 지적이 제기됐다. 이 기능은 이용자의 취향에 맞춰 음성 및 채팅 기반의 상호작용을 제공하는데, 캐릭터 '애니(Ani)'는 금발에 짧은 검은 원피스와 망사 스타킹을 착용한 모습으로 등장한다. 여기에 비건전물(NSFW·Not Safe For Work) 모드를 활성화하면 란제리 복장으로 환복하는 연출까지 구현된다.

해당 기능은 미성년자 접근 가능성까지 지적받고 있다. 미국 국립성착취예방센터(NCOSE)는 미성년자가 애니와 대화할 수 있다는 점을 문제 삼으며 xAI에 해당 캐릭터를 삭제하라고 요청하거나 애플 측에도 그록 앱 연령 제한을 18세 이상으로 상향 조정할 것을 촉구한 바 있다.

강지원 기자 g1ee@sedaily.com