머스크 AI ‘그록’, 딥페이크 논란에 결국…“실제 인물 합성 차단”

성 착취물 딥페이크 논란에 엑스(X)가 ‘그록’의 실제 인물 노출 합성 기능을 차단했다. 현재 이미지 편집은 유료 사용자만 가능하다. 뉴시스

일론 머스크의 인공지능(AI) 모델 ‘그록(Grok)’이 성 착취물 딥페이크 논란에 결국 무릎을 꿇었다. 엑스(X·구 트위터) 측은 공지를 통해 실제 인물의 사진을 노출이 심한 복장으로 합성하던 기능을 전면 제한하기로 했다고 발표했다.

이는 표현의 자유를 앞세우던 머스크의 기존 입장과는 대조적인 행보로, 각국 정부의 강력한 규제와 수사가 압박으로 작용한 결과로 풀이된다.

15일(현지 시각) 엑스 안전팀은 “그록에서 실제 인물을 비키니나 속옷 등 노출이 심한 차림으로 편집하는 것을 방지하는 기술적 조치를 도입했다”고 발표했다.

또한 엑스 측은 “아동 성 착취나 동의 없는 누드물 등에 대해 무관용 원칙을 고수하고 있다”며 “규칙을 위반한 계정에 대해서는 적절한 조치를 시행 중”이라고 강조했다.

더불어 이미지 생성 및 편집 기능은 유료 구독자에게만 제공될 예정이다. 엑스 측은 “정책을 위반하는 사용자에게 명확한 책임을 묻고 추적을 가능하게 하기 위함”이라고 설명했다.

● 검찰 수사 직후 나온 발표… 국제적 압박 거세

2023년 샌프란시스코 시내에 위치한 엑스(X·구 트위터) 본사 건물 옥상에서 “X” 로고 표지판에 조명을 설치하고 있다. Ap/뉴시스

이번 조치는 캘리포니아주 검찰이 그록을 통해 생성된 아동 성착취물 및 성인 딥페이크 게시물을 조사하기 시작했다고 발표한 직후에 나왔다.

롭 본타 캘리포니아 검찰총장은 공식 성명을 통해 “여성과 아동을 성적으로 묘사한 자료들이 온라인에서 사람들을 괴롭히는 도구로 악용되고 있다”고 강력히 경고했다.

국제적인 압박도 거셌다. 말레이시아와 인도네시아는 최근 그록을 활용한 디지털 성범죄 사례가 잇따르자, 세계 최초로 해당 도구의 사용을 전면 금지했다.

영국 미디어 규제 기관인 오프콤(Ofcom) 역시 엑스가 영국 법을 준수하고 있는지 조사에 착수했다. 키어 스타머 영국 총리는 엑스의 ‘자율 규제 권한’ 박탈 가능성까지 언급하며 압박 수위를 높여왔다.

● 한 발짝 물러선 머스크, “성인 등급 영화 수준은 허용”

테슬라와 스페이스X의 CEO 일론 머스크가 2023년 11월 1일 수요일, 영국 블레츨리 파크에서 열린 제1차 AI 안전 정상회의 전체 세션에 참석하고 있다. AP/뉴시

머스크는 그간 그록을 향한 비판에 “표현의 자유를 억압하려 한다”고 맞서거나, 스타머 총리를 비키니 차림으로 합성한 이미지를 직접 게시하는 등 도발적인 태도를 보여왔다. 그러나 수사 당국의 압박과 서비스 퇴출 위기가 가시화되자 한발 물러선 모양새다.

머스크는 전날 엑스를 통해 “실제 인물이 아닌 가상의 이미지에 한해서만 성인 등급 영화 수준의 노출을 허용할 것”이라며 “이것이 미국의 사실상 표준(de facto standard)이며, 각국의 법령에 따라 지역별 차단(지오블락) 조치를 병행하겠다”고 밝혔다.

김영호 기자 rladudgh2349@donga.com