머스크 AI 그록 '이미지 탈의' 기능 차단…'딥페이크 파문'에 백기

여성·미성년자 성착취 논란 일자 세계 각국서 규제 움직임
시민사회단체, 애플·구글에 "그록·X 앱스토어 차단해야" 촉구

일론 머스크가 소유한 xAI의 인공지능 챗봇 '그록'(Grok) 로고. 2025.02.16 ⓒ 로이터=뉴스1 ⓒ News1 김지완 기자

(서울=뉴스1) 윤다정 기자 = 일론 머스크의 소셜미디어 엑스(X·구 트위터)가 인공지능(AI) 챗봇 그록이 사진 속 인물의 옷을 벗기는 작업을 하지 못하게 하는 조치를 발표했다. 그록이 성 착취 이미지를 생성하는 데 악용된다는 논란이 일면서 전 세계적으로 규제 움직임이 일자 뒤늦게 취한 조치다.

14일(현지시간) AFP에 따르면, X 안전팀은 "사람의 이미지를 비키니, 속옷, 기타 이와 유사한 복장의 이미지로 재생성하는 기능을, 해당 행위를 불법으로 간주하는 관할 지역에서 '지오블록'(지역 차단)하겠다"고 밝혔다.

또한 "비키니와 같이 노출이 있는 복장을 한 실제 인물의 이미지를 편집하는 것을 그록 계정이 허용하지 않도록 기술적 조치를 시행했다"며 "이 제한은 유료 구독자를 포함한 모든 이용자에게 적용된다"고 말했다.

여기에 "추가적인 보호 장치로써, X의 그록 계정을 통한 이미지 생성과 사진 편집 기능은 유료 구독자에게만 제공된다"고 덧붙였다.

이번 발표는 롭 본타 캘리포니아주 법무장관이 그록 개발사인 일론 머스크의 xAI에 대한 조사를 시작한 이후 나왔다.

본타 장관은 "최근 몇 주 동안 xAI가 생성해 온라인에 게시한, 동의를 받지 않았으며 성적으로 노골적인 자료에 대한 보고가 눈사태처럼 쏟아지고 있다는 점은 충격적"이라며 "이 이미지들이 인터넷 전반에서 사람들을 괴롭히는 데 쓰인 이후 xAI가 주 법률을 위반했는지 조사해 판단할 것"이라고 말했다.

머스크는 최근 X에 게시된 이미지를 그록이 수정할 수 있도록 하는 기능을 도입했다.

이후 많은 이용자가 "비키니를 입혀라", "옷을 벗겨라"와 같은 손쉬운 명령어를 이용해 여성과 미성년자의 딥페이크 이미지를 생성하는 데 그록을 악용하면서 논란이 일었다.

파리 소재 비영리 단체 AI 포렌식에 따르면, 그록이 생성한 2만 장 이상의 이미지를 분석한 결과 절반 이상은 '옷을 거의 입지 않다시피 한 인물들'을 묘사하고 있었다. 이미지 속 인물 대부분은 여성이었고 2%가량은 미성년자였다.

일부 이용자들은 머스크가 비키니를 입은 모습의 합성 사진을 생성하는 방식으로 항의했으나, 머스크는 이 사진들에 웃는 얼굴의 이모지나 "완벽하다"는 반응을 답글로 남기는 등 문제 제기를 묵살하는 태도를 보여 더 큰 논란을 불러일으켰다.

이에 전 세계적으로 X와 그록을 규제해야 한다는 압박이 커졌다. 인도는 지난 10일 처음으로 그록에 대한 접근을 전면 차단했고, 다음날 말레이시아가 그 뒤를 따랐다.

영국의 미디어 규제 기관 오프콤은 12일 성적 이미지와 관련해 X가 영국 법을 준수하지 않았는지 여부에 대해 조사하기 시작했다.

프랑스의 아동 담당 위원 사라 엘 하이리는 13일 그록이 생성한 이미지를 프랑스 검찰과 미디어 규제 기관 아르콤, 유럽연합(EU)에 회부했다고 밝혔다.

14일에는 28개 시민사회단체 연합이 애플과 구글 최고경영자(CEO)에게 서한을 보내 성적 이미지 급증을 이유로 그록과 X를 앱스토어에서 퇴출하도록 촉구했다.

EU 집행위원회는 "여성과 아동의 성적 이미지를 생성하는 것을 금지하기 위해 X가 취하고 있는 추가 조치를 인지하고 있다"며 "이러한 변경 사항이 시민들을 효과적으로 보호하는지 면밀히 평가할 것"이라고 밝혔다.

maum@news1.kr