딥페이크 확산에…머스크의 X, 아동 성착취물 단속팀 신설

일론 머스크의 X 계정. 로이터 연합뉴스

일론 머스크 테슬라 CEO(최고경영자)가 소유한 소셜미디어 X(옛 트위터)가 아동 성 착취물 등 불법 콘텐츠 단속에 나선다.

28일(현지시간) 블룸버그와 AFP 통신 등에 따르면 X는 텍사스 오스틴에 '신뢰와 안전 센터'를 신설한다. 센터는 100명의 콘텐츠 관리자를 정규직으로 둘 예정으로 아동 성 착취물과 관련된 자료를 단속한다. 이와 함께 혐오 발언이나 폭력적인 내용의 게시물도 규제한다.

조 베나로치 X 비즈니스 운영 책임자는 "X는 아동을 대상으로 하는 사업 분야가 없지만, 범법자들이 우리 플랫폼을 이용해 아동 성범죄 콘텐츠를 배포하거나 이에 관여하는 것을 막는 데 투자하는 것은 중요하다"고 말했다.

X의 행보는 린다 야카리노 X CEO가 오는 31일 온라인 아동 성 착취물 위기에 관한 연방 상원 사법위원회 청문회에 출석하기 사흘을 앞두고 나왔다. X는 지난 26일에는 "아동 성 착취물에 무관용 원칙"으로 단속을 강화한다는 방침을 자사 블로그에 게시했다.

최근 X를 비롯한 글로벌 플랫폼은 AI(인공지능) 딥페이크 이미지·영상이 확산하며 골머리를 앓고 있다. 최근에는 팝스타 테일러 스위프트의 AI 딥페이크 이미지가 퍼지면서 큰 파장을 일으켰다. 이를 두고 사티아 나델라 MS(마이크로소프트) CEO는 물론 백악관까지 나서 규제의 필요성을 강조했다. 나델라 CEO는 이번 사건을 두고 "놀랍고 끔찍하다"며 "(딥페이크와 싸우기 위해) 우리는 빨리 움직여야 하고 행동해야 한다"고 했다. 백악관은 "매우 우려스럽다"며 "우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 SNS 업체들이 정보 제공 및 규칙을 시행하는 데 해야 할 중요한 역할이 있다고 본다"고 했다.

X는 머스크 인수 후 '표현의 자유'를 내세우며 콘텐츠 규제를 대폭 완화한 바 있다. 다수의 콘텐츠 규제 관련 정책을 폐기한 것에 더해 관련 부서 인력도 대규모로 해고했다. 이후 X는 가짜뉴스의 진원지가 되면서 전 세계에 혼란을 부추기고 있다는 비판을 거세게 받았다. EU(유럽연합)는 이스라엘과 팔레스타인 무장정파 하마스 분쟁에 관한 허위정보·테러 관련 게시물을 제대로 관리하라는 내용의 공개서한을 머스크에게 보내기도 했다. 다만 야카리노 CEO는 EU 주장과 달리 "(X)는 수만 개의 콘텐츠를 제거하거나 라벨을 붙이는 조치를 취했으며 가자 무장단체 하마스와 연결된 수백 개의 계정을 제거했다"고 반박했다. X는 전 세계에서 4억1000만명 이상의 이용자를 보유하고 있다.윤선영기자 sunnyday72@dt.co.kr