머스크의 xAI, 이미지 기능 제한…성착취 딥페이크 논란 의식

사진=연합뉴스

일론 머스크가 설립해 운영 중인 인공지능(AI) 스타트업 xAI가 챗봇 '그록'의 성 착취물 딥페이크 생성 논란에 대응해 이미지 생성 기능을 일부 제한하기 시작했다.

9일(현지시간) 미국 언론에 따르면 그록 챗봇은 머스크 소유의 소셜미디어 엑스(X·옛 트위터)에서 이미지 생성·편집을 요구하는 이용자에게 “유료 구독이 필요하다”고 답변했다.

해당 기능은 원래 엑스에서 일일 사용량 제한이 있긴 했지만 무료로 제공됐다. 하지만 이제 월 8달러를 지불하는 프리미엄(유료) 구독자에게만 이미지 생성 기능이 허용된다는 것이다.

AP통신 등 미 언론은 그록의 이런 이미지 생성 기능 제한에 따라 이날 엑스에서 그록이 생성한 노골적인 딥페이크 이미지 수가 이전보다 눈에 띄게 줄었다고 전했다.

다만 엑스와 별도로 운영되는 그록 자체 앱은 여전히 구독 없이도 이미지 생성을 허용한다고 블룸버그 통신 등은 지적했다.

앞서 지난 몇 주간 그록은 엑스에서 '여성들의 사진을 비키니 차림으로 편집해 달라'는 등의 이용자 요청에 따라 여성과 아동을 성적 대상화한 딥페이크 이미지를 다량 생성해내 세계적으로 물의를 일으켰다. 수천장의 사진을 딥페이크로 만든 이미지들은 대부분 피사체인 당사자의 동의 없이 생성됐다.

이에 유럽 주요 국가들이 조사에 나섰고, 말레이시아와 인도 역시 관련 콘텐츠에 대한 단속을 벌이겠다고 밝힌 바 있다.

이날 엑스의 그록 서비스를 유료 구독자 대상으로 제한한 조처를 두고서도 유럽에서는 여전히 비판의 목소리가 나왔다.

토머스 레니에르 유럽연합(EU) 집행위원회 대변인은 “이는 근본적인 문제를 바꾸지 않는다”며 “유료 구독이든 무료 구독이든 우리는 그런 이미지를 보고 싶지 않다. 그게 전부다”라고 일축했다.

키어 스타머 영국 총리실 대변인도 “그록의 변경 사항은 해결책이 아니다”라며 “이는 여성혐오와 성폭력 피해자들에게 모욕적인 일로, 엑스가 원할 때 신속히 움직일 수 있음을 보여준다”고 지적했다.

박종진 기자 truth@etnews.com