머스크 AI '그록', 1·2세 영유아 사진마저 성적 대상화… 각국 정부 조사 나서

'표현의 자유' 이유로 성적 이미지 허용
1, 2세 영유아 성적 대상화 사진 등 생성

인공지능 챗봇 '그록' 로고와 창업자인 일론 머스크 테슬라 최고경영자의 모습. AFP 연합뉴스

일론 머스크 테슬라 최고경영자(CEO)가 설립한 xAI의 인공지능(AI) 챗봇 ‘그록’이 아동을 소재로 한 성적 이미지를 생성했다는 논란을 둘러싸고 인도와 프랑스, 말레이시아 정부가 잇따라 조사에 착수하거나 법적 대응을 경고하고 나섰다. 부적절한 AI 이미지 생성 기술을 둘러싼 각국 정부의 규제 움직임이 한층 속도를 내는 분위기다.

6일 블룸버그통신은 말레이시아 방송통신멀티미디어부(MCMC)가 미성년자와 여성 사진을 조작해 성적 콘텐츠를 만들어낸 AI 관련 신고를 접수하고 조사 중이라고 보도했다. MCMC는 “유해 콘텐츠를 제작하거나 전송하는 행위는 말레이시아 법률상 범죄”라며 관련 혐의를 받는 AI 사용자와 해당 기업 대표를 소환할 예정이라고 덧붙였다.

말레이시아 정부가 문제 삼은 대상은 xAI의 대화형 AI 그록이다. 머스크는 2022년 트위터를 인수한 뒤 이름을 엑스(X)로 바꿨고, 지난해 xAI에 매각했다. 그록은 다른 AI 챗봇에 비해 성적 표현에 대한 제한이 느슨하다는 지적을 받아왔다. 챗GPT(오픈AI)와 제미나이(구글) 등이 관련 콘텐츠 생성을 엄격하게 금지하는 것과 달리, 그록은 ‘표현의 자유’를 이유로 규제를 최소화해왔기 때문이다. 지난해 8월에는 성적 이미지와 텍스트 생성을 허용하는 ‘스파이시 모드’를 내놓기도 했다.

지난해 8월 일론 머스크가 설립한 ‘xAI’의 생성형 AI ‘그록이매진’은 성인용 영상을 자동 생성할 수 있는 스파이시 모드(spicy mode)를 선보였다. 사진은 머스크가 그록이매진으로 제작한 영상 일부. 머스크 엑스(X) 계정 캡처

그록에도 사진 속 인물을 완전한 나체로 바꾸는 기능은 차단돼 있지만, 일부 이용자들이 X에 올라온 인물 사진을 소재로 “옷을 벗겨라”, “비키니를 입혀라” 같은 명령어를 입력하면 최소한의 의상만 남긴 채 노출 사진을 만들 수 있다는 점을 발견해 악용하는 사례가 급증했다. 특히 그록은 X 플랫폼에서 공개적으로 명령어를 입력하고 결과를 얻을 수 있어, 유명 연예인이나 젊은 여성 사진을 변형한 부적절한 사진이 불특정 다수에 유포되는 문제까지 있었다.

특히 말레이시아 당국이 조사에 나선 것은 지난해 말부터 비키니 수영복 차림의 아동 사진이 그록을 통해 생성된 뒤 X를 통해 유포된 사실이 확인됐기 때문이다. 이 가운데에는 1, 2세 영유아로 보이는 아동 사진을 성적 대상화한 사례도 포함된 것으로 전해졌다.

인공지능 챗봇 '그록' 로고. 로이터 연합뉴스

그록의 성적 사진 생성 문제와 관련해 먼저 대응에 나선 건 인도와 프랑스 정부였다. 인도 전자정보기술부는 이달 1일 X에 공문을 보내 그록이 노출이나 노골적 표현 등을 생성하지 않도록 즉각적인 시정 조치를 취하라고 요구했다. 인도 정부는 형사법과 정보기술(IT) 관련 법률에 따라 부적절한 AI 생성 콘텐츠를 유포한 SNS 플랫폼을 규제할 수 있다는 입장이다.

이튿날 프랑스 정부도 그록이 생성한 성착취 이미지가 X를 통해 확산된 점이 유럽연합(EU) 디지털서비스법(DSA) 위반에 해당할 수 있다며 사안을 아르콤(프랑스 방송·통신 규제기구)에 회부했다고 공개했다. 파이낸셜타임스는 조사 결과에 따라 6만 유로(약 1억 원) 이하의 벌금형에 처해질 수 있다고 전했다.

이용자들의 문제제기가 잇따르고 여러 나라 정부가 조사에 나서자 그록은 2일 오후 “안전장치 허점을 확인했다”며 관련 사진을 삭제하고 보완 조치를 약속했다. 다만 각국 규제 당국은 사후 조치만으로는 충분하지 않다며 플랫폼과 AI 개발사의 구조적 책임을 분명히 해야 한다는 입장이다.

하노이= 허경주 특파원 fairyhkj@hankookilbo.com