‘스위프트 딥페이크’ 비난에… X, 단속센터 신설

100명 상주, 음란-허위 콘텐츠 차단
머스크, 인수 당시 관련 인원 줄여

소셜미디어 X(옛 트위터)가 성착취물이나 허위정보를 단속할 ‘신뢰와 안전 센터(Trust and Safety center of excellence)’를 신설한다. 미국 팝스타 테일러 스위프트에 대한 딥페이크 음란 이미지 확산을 방치해 비난 여론이 거센 데 따른 대책이다.

28일(현지 시간) X의 비즈니스 운영 책임자인 조 베나로치는 블룸버그통신 인터뷰에서 아동 성착취물 등 불법 콘텐츠를 단속할 ‘신뢰와 안전 센터’를 텍사스주 오스틴에 신설한다고 밝혔다. 베나로치에 따르면 X의 오스틴 센터는 100여 명의 콘텐츠 관리자가 정규직으로 상주해 성착취물, 특히 아동 관련 콘텐츠를 집중 단속할 예정이다. 이와 더불어 혐오 발언이나 폭력적인 내용의 게시물을 골라내는 역할도 맡게 된다.

이번 발표는 스위프트의 딥페이크 음란 이미지가 X를 통해 유포된 사태 직후 나온 것이다. X는 문제 이미지 확산을 막기 위해 ‘테일러 스위프트’ 검색 자체를 막았지만 합법적 콘텐츠까지 검색이 불가능해 비판 여론도 크다. 특히 일론 머스크 테슬라 최고경영자(CEO·사진)가 2022년 트위터를 인수한 이후 플랫폼 안전 관련 부서 인력을 대거 감원하고, 표현의 자유를 중시하겠다고 강조한 것이 허위 이미지에 늑장대응하게 했다는 지적을 받고 있다.

이달 31일 예정된 미 상원 사법위원회의 ‘온라인 아동 성착취물 위기’에 관한 청문회를 염두에 두고 센터 설립을 발표했다는 분석도 나온다. 청문회에는 린다 야카리노 X CEO를 비롯해 마크 저커버그 메타 CEO 등도 참석할 예정이다. 베나로치는 “범죄자들이 우리 플랫폼(X)을 이용해 아동 성범죄 콘텐츠를 배포하거나 이에 관여하는 것을 막기 위해 투자를 하는 것이 중요하다”고 블룸버그에 밝혔다.

뉴욕=김현수 특파원 kimhs@donga.com