딥페이크 파문에···엑스 “아동 성착취물 단속팀 신설”

소셜미디어 엑스. 로이터 연합뉴스.

일론 머스크가 소유한 사회관계망서비스(SNS) 엑스(X·옛 트위터)가 아동 성 착취물 등 불법 콘텐츠를 단속하는 ‘신뢰와 안전 센터’를 신설한다. 이를 위해 머스크가 해고했던 콘텐츠 검수자 100여명을 다시 고용한다. 인공지능(AI) 기술로 딥페이크를 차단하려는 시도가 한계에 달하자 콘텐츠 검수 업무를 다시 사람에게 맡기겠다는 것이다.

블룸버그와 AFP 통신 등 외신은 28일(현지시간) X의 비즈니스 운영 책임자인 조 베나로치와의 인터뷰 내용을 전하며 이같이 보도했다.

보도에 따르면 X는 텍사스 오스틴에 신설하는 센터에 100명의 콘텐츠 관리자를 연내 정규직으로 채용할 계획이다. 센터는 아동 성 착취물과 관련된 자료를 단속하고, 혐오 발언이나 폭력적인 내용의 게시물을 규제하는 플랫폼 정책을 마련한다.

베나로치는 “X는 아동을 상대로 하는 사업 분야가 없지만, 범법자들이 X를 이용해 아동 성범죄 콘텐츠를 배포하거나 이에 관여하는 것을 막는 데 투자하는 것이 중요하다”고 말했다.

앞서 머스크는 2022년 10월 트위터를 인수해 X로 이름을 바꾸면서 ‘언론의 자유’를 위한다는 명분으로 콘텐츠 규제 관련 정책을 모두 없애고, 관련 부서 인력도 대규모로 해고했다. 하지만 세계 각국의 선거나 전쟁 등을 악용한 가짜뉴스와 딥페이크 이미지가 확산하면서 해당 문제를 해결해야 한다는 국제 사회의 압박이 커지고 있다.

특히 X에서는 최근 팝스타 테일러 스위프트의 얼굴이 음란물과 합성된 딥페이크가 대거 유포돼 논란이 됐다. X는 뒤늦게 스위프트에 대한 게시물을 볼 수 없도록 막아 놨지만, 이미 해당 이미지는 페이스북과 텔레그램 등 다른 SNS로 퍼진 상태였다.

논란이 확산하자 정치권까지 나서 우려를 표했다. 백악관은 “실존하는 사람들의 친근한 이미지와 허위 정보가 사전 동의 없이 확산하는 것을 방지하기 위해 SNS업체들이 정보 제공 및 규칙을 시행하는 데 해야 할 중요한 역할이 있다”며 빅테크 업체들의 사회적 역할을 주문했다.

X의 행보는 린다 야카리노 X 최고경영자(CEO)가 오는 31일 온라인 아동 성 착취물 위기에 관한 연방 상원 사법위원회 청문회에 출석하기 사흘을 앞두고 나온 것이라고 블룸버그는 짚었다. 이 자리에서는 스위프트 사태 등 X의 콘텐츠 관리 정책 등에 대한 질타가 이어질 것으로 보인다.

미 의회에서는 최근 AI로 만든 딥페이크에 대한 우려가 커지면서 이에 대한 규제가 필요하다는 목소리가 나오고 있다. 앞서 조 바이든 대통령의 목소리를 흉내낸 ‘가짜 전화유세’까지 나돌아 미국 정치권에서도 딥페이크에 비상이 걸린 상황이다. 이번 청문회에는 메타와 스냅, 틱톡, 디스코드 등 주요 빅테크 기업들의 CEO들도 함께 출석할 예정이다.

김은성 기자 kes@kyunghyang.com