머스크의 AI '그록', 성적 이미지 양산에 각국 비판 쇄도

EU "아동 성적 이미지 생성은 불법"…영국 규제 당국, 조사 검토
프랑스, 검찰 수사 확대…인도, 성적 콘텐츠 제거 지시

엑스AI가 출시한 인공 지능 챗봇 그록 로고와 이를 이끄는 일론 머스크의 이미지 [AFP=연합뉴스]

(서울=연합뉴스) 나확진 기자 = 일론 머스크의 인공지능(AI) 챗봇 '그록'(Grok)이 여성이나 아동을 대상으로 성적 이미지를 만들어 내는 기능을 제공하면서 각국이 우려와 비판을 쏟아내고 있다. 일부 국가는 법적 조사에 착수했다.

챗GPT와 제미나이 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격하게 금지하지만, 그록은 표현의 자유 등을 이유로 이를 엄격히 막지 않았다.

특히 지난달 업데이트 이후 이용자들이 그록에 사진을 올리고 변형하는 작업이 더 쉬워지면서 우려가 커지기 시작했다고 영국 일간 가디언은 5일(현지시간) 보도했다.

비키니 수영복을 입은 아동 사진 등이 그록으로 생성돼 소셜미디어(SNS) 플랫폼 엑스(X·옛 트위터)를 통해 유포되면서 많은 이용자가 문제 제기했고, 그록은 "안전장치의 허점을 확인했다"며 "긴급히 수정하는 중"이라고 밝혔다.

머스크는 애초 이번 논란을 대수롭지 않게 치부하는 듯한 모습을 보였으나 문제 제기가 이어지자 4일 엑스에 "불법 콘텐츠를 만드는 데 그록을 이용하는 이는 불법 콘텐츠를 올리는 것과 같은 대가를 치를 것"이라고 글을 올리기도 했다.

하지만 가디언은 4일과 5일에도 이용자들이 미성년자, 아동의 성적 사진을 그록으로 생성하고 있다고 전했다.

머스크의 13번째 자녀를 낳았다며 그를 상대로 양육비 청구 소송을 제기한 인플루언서 애슐리 세인트 클레어는 그록이 자신의 14살 사진을 활용해 비키니를 입은 모습을 생성했다고 지적했고, 넷플릭스 시리즈 '기묘한 이야기' 출연한 14세 배우 넬 피셔의 사진도 비키니를 입은 모습으로 변형돼 유포됐다.

엑스AI와 그록 로고[로이터=연합뉴스]

토머스 레니에르 유럽연합(EU) 집행위원회 디지털경제 담당 대변인은 5일 이번 사안을 "매우 심각하게 보고 있다"며 "그록은 어린이 같은 이미지로 노골적으로 성적인 콘텐츠를 생성해 '매운맛 모드'라는 이름으로 제공하는데, 이건 매운맛이 아니라 불법"이라고 말했다.

레니에르 대변인은 "끔찍하다"며 "이건 유럽에는 발 디딜 수 없다"고 덧붙였다.

영국 미디어 규제 기구인 오프콤(Ofcom)은 그록이 어떤 조치를 할 것인지 알아보고자 머스크가 이끄는 엑스와 그록을 출시한 엑스AI에 긴급히 연락했다며, 답변에 따라 조사에 착수할지 결정할 것이라고 말했다.

이미 프랑스는 그록이 아동 포르노를 생성해 유포한다는 혐의로 고발된 것을 포함해 엑스에 대한 검찰 수사를 확대하고 나섰다.

앞서 프랑스는 엑스의 알고리즘이 조작되고 있다는 보도에 따라 지난해 7월 엑스 수사에 착수했다.

인도 규제 당국은 엑스에 성적 콘텐츠를 제거하고 규정을 위반하는 이용자를 엄중히 단속하라고 지시하고 5일까지 관련 조치사항을 제출하도록 했다. 다만, 엑스가 관련 조치사항을 인도 당국에 제출했는지는 아직 알려지지 않았다고 AFP통신은 전했다.

말레이시아 방송통신멀티미디어위원회(MCMC)도 그록과 관련해 음란 콘텐츠 생성 관련 신고를 접수해 조사하고 있으며, 엑스의 대표를 소환할 것이라고 밝혔다.

rao@yna.co.kr

▶제보는 카톡 okjebo