논란 속 '머스크 AI' 그록, 애플 앱스토어서 퇴출 위기

성 착취 '딥페이크' 논란 지속
애플, 개발자에 '경고문' 전송
인니선 한때 차단…유럽도 고심

그래픽=박혜수 기자

일론 머스크가 이끄는 xAI의 생성형 인공지능(AI) 챗봇 그록(Grok)이 애플 앱스토어에서 퇴출될 위기에 처했다.

16일 안드로이드헤드라인즈 등 외신에 따르면, 애플이 딥페이크에 관한 우려로 그록 애플리케이션(앱)을 앱스토어에서 삭제할 수도 있다는 경고 메시지를 개발자들에게 비공개로 전달했다고 보도했다.

복수 매체는 애플 측이 그록이 성적인 딥페이크 콘텐츠 유포 등 문제를 해결하지 않으면, 앱스토어에서 퇴출하겠다는 뜻을 전했다고 밝혔다. 그록이 앱스토어 콘텐츠 정책을 위반한 데 따른 조치다.

xAI 측은 한 차례 수정 보고서를 제출했지만, 애플은 이를 불충분하다고 판단해 즉각 반려한 것으로 알려졌다. 애플은 xAI가 AI 챗봇 내 딥페이크 생성을 금지하는 안전장치와 명확한 모니터링 시스템을 갖출 것을 요구하고 있다.

한편, 그록은 지난해 말 실제 인물 사진을 바탕으로 성적 노출된 딥페이크 이미지를 만들 수 있다는 문제가 제기됐다. 미성년자로 보이는 인물이 포함된 이미지가 생성됐다는 보도가 쏟아지면서, 논란의 중심에 섰다.

해당 논란에 인도네시아는 지난 1월 전 세계 최초로 그록의 접근을 차단하기도 했다. 영국과 유럽 역시 제재에 나서면서 서비스 차단 카드를 매만지고 있다. 우리나라와 일본 등 글로벌 각지에서는 그록에 대책을 요구하고 있는 상황이다.

xAI는 동의 없이 제작된 노골적인 콘텐츠를 금지하고 있다는 입장이다. 개발자들이 오용을 줄이기 위해 모니터링 시스템, 안내 메시지 필터, 그리고 잦은 업데이트를 이미 구현했다고 주장하고 있다.

강준혁 기자 junhuk210@newsway.co.kr