야한 비키니 합성도 뚝딱… 그록 성착취물 판치는데 손 놓은 정부

일론 머스크 설립 xAI의 인공지능 챗봇 '그록'
명령 하나로 성착취물 생성·유통 가능한 구조
인도네시아 접속 차단·영국 프랑스 위법 조사
국내 관계부처, 서로 책임 미루며 손 놓고 있어

인공지능(AI) 챗봇 '그록(Grok)' 로고와 창업자인 일론 머스크 테슬라 최고경영자. AFP 연합뉴스

일론 머스크 테슬라 최고경영자(CEO)가 운영하는 엑스(X)와 xAI의 인공지능(AI) 챗봇 '그록(Grok)'이 성착취물 딥페이크(인공지능 기반 가짜 이미지·영상·음성)를 생성·유포해 세계적 논란이 되면서 국내 이용자들 사이에서도 불안이 커지고 있다. 그록 서비스를 차단하거나 즉각 조사에 착수한 다른 나라들과 달리 한국 정부는 수수방관하고 있어 피해가 걷잡을 수 없이 커질 수 있다는 지적도 나온다.

11일 한국일보가 엑스 게시물을 살펴보니, 국내에서도 '그록 비키니' 이미지가 '추천 게시물'로 노출된다며 불안을 호소하는 게시물이 여럿 올라와 있었다. 이미지 차단 방법을 서로 묻고 공유하는 이용자들도 많았다. 한 이용자는 "(다른 이용자가) 내가 올린 사진마다 그록을 이용해 그런 이미지를 생성했다"며 "결국 그 사람을 차단하고 답글 기능을 껐다"는 글을 쓰기도 했다.

그록은 엑스에 게시된 사진에 답글로 '그록'을 태그한 뒤 "비키니를 입혀라" 등을 명령하면 곧바로 AI로 합성한 이미지를 생성해 준다. 사진 속 인물을 완전한 나체로 바꾸는 기능은 막혀 있지만 그에 준하는 이미지는 얼마든지 만들어낼 수 있다. 또 공개 계정에서는 제3자가 답글로 그록을 태그해 이미지 생성을 할 수 있는 데다 곧바로 합성물이 답글로 노출되기 때문에 합성과 동시에 유포가 이뤄진다.

특히 한국은 딥페이크 성범죄가 심각한 국가라 이용자들의 우려가 더 크다. 10년 넘게 엑스를 이용해 온 A(26)씨는 "일면식도 없는 사람이 내 사진으로 아무렇지 않게 음란물을 만들 수 있다는 사실이 너무 무섭다"며 "딥페이크에 이용될지 모른다는 생각에 이미 인스타그램과 블로그 사진을 모두 삭제하고 비공개로 돌렸는데, 언제까지 이런 불안을 감수해야 하는지 모르겠다"고 토로했다.

학부모들도 자녀가 그록에 쉽게 노출되거나 무심코 직접 사용할 수 있다는 점을 걱정하고 있다. 고등학생 자녀를 둔 학부모 양은영(51)씨는 "아이들이 호기심으로 직접 해볼 것 같아 불안하다"며 "한두 번으로 끝나지 않고 중독으로 이어질 수도 있지 않겠느냐"고 말했다. 그록으로 생성된 아동 성착취물 문제도 심각한 만큼, 어린 자녀가 피해를 당할 수 있다는 우려도 적지 않다.

그록이 니콜라스 마두로 베네수엘라 대통령 사진에 비키니를 입히라는 명령을 수행하고 있다. X 캡처

해외 국가들은 이미 발빠르게 대응하고 있다. 인도네시아는 10일 세계 최초로 그록 서비스를 차단했다. 인도 정부도 1일 엑스에 공문을 보내 그록으로 생성된 아동·여성 대상 성적 이미지와 관련해 72시간 내 조치를 취하고 결과 보고서를 제출하라고 요구했다. 영국과 프랑스는 공식 조사에 착수했고, 독일·스웨덴·이탈리아도 엑스에 즉각적 조치를 요구하고 나섰다.

하지만 한국 정부는 여전히 손을 놓은 채, 부처 간 책임 떠넘기기에 여념이 없다. 온라인 음란물 유포와 딥페이크 대응을 담당한 성평등가족부는 "피해자 신고가 들어왔을 때 지원을 담당한다"며 기업에 대한 제도적·규제적 조치는 방송미디어통신위원회 소관이라는 입장을 밝혔다.

반면 방미통위는 "행정명령 등 제도적 조치는 대부분 방송미디어통신심의위원회 심의 결과가 나온 뒤, 별도 요청이 있을 경우에 진행하는 구조"라며 발을 뺐다. 방미심위도 "사안별 심의는 우리가 하지만 게시물 접속 차단 외에는 권한이 없다. 정책적 대응은 방미통위에 문의해야 한다"며 다시 미뤘다. 관련 부처들이 서로 책임을 전가하며 문제 해결을 외면하는 사이 피해는 더 확산하고 있다.

문형남 숙명여대 글로벌융합학부 교수는 "사업자가 사전에 AI에 조건을 걸어 문제가 될 영상이나 이미지가 아예 생성되지 않도록 차단하는 것이 가장 효과적"이라며 "정부가 사업자와 적극 소통하며 적정한 규제와 이용자 교육을 병행해야 한다"고 말했다.

허유정 기자 yjheo@hankookilbo.com
김준형 기자 junbro@hankookilbo.com
실리콘밸리= 박지연 특파원 jyp@hankookilbo.com