‘딥페이크’에 놀란 X… 별도 단속센터 신설

스위프트 합성 음란물 대책
CEO 청문회 출석앞서 결정

옛 트위터인 X가 인공지능(AI)이 만든 딥페이크 이미지로 확산하는 성 착취물을 단속하기 위한 별도 센터를 신설하기로 했다. 팝스타 테일러 스위프트의 얼굴이 합성된 음란 이미지가 X를 통해 유통돼 정치권으로까지 논란이 커지자 급하게 대책을 내놓은 것이다.

조 베나로치 X 사업운영책임자는 28일(현지시간) AFP통신과의 인터뷰에서 미국 텍사스주 오스틴에 ‘신뢰와 안전 센터’를 개관할 계획이라고 밝혔다. 그는 인터뷰에서 “(이 센터의) 초기 목표는 아동 성 착취 콘텐츠와 기타 플랫폼 규칙 위반을 근절하는 것”이라며 “100명의 콘텐츠 관리자를 정규직으로 채용할 계획”이라고 전했다. 앞서 X는 지난 26일 ‘아동 성 착취물에 무관용 원칙’을 토대로 단속을 강화하겠다는 방침을 내놓은 바 있다. 이후 이틀 만에 단속 센터 설립 계획까지 나온 것이다.

이 같은 X의 행보는 26일 스위프트의 음란 딥페이크가 X에 퍼지자 백악관이 우려를 표명한 것과 무관치 않다는 분석이 나온다. X는 뒤늦게 문제 계정들을 삭제하고 ‘테일러 스위프트’를 검색하지 못하게 했지만, 이미 해당 이미지는 페이스북·텔레그램 등 다른 SNS로 퍼진 상태였다.

블룸버그통신은 X의 이번 발표는 린다 야카리노 X CEO가 오는 31일 온라인 아동 성 착취물 위기에 관한 연방 상원 사법위원회 청문회에 출석하기 사흘 전에 나왔다고 짚었다. 이번 청문회에는 메타와 스냅, 틱톡, 디스코드 등 다른 주요 기술기업 CEO들도 출석할 예정이다.

외신들은 이 자리에서 위원들이 스위프트 사태와 관련해 X의 콘텐츠 관리 정책 등을 추궁할 것으로 보인다고 보도했다. 미 의회에서는 최근 AI로 만든 딥페이크에 대한 우려가 커지자 이에 대한 규제가 필요하다는 목소리가 커지고 있다. 앞서 X 소유주인 일론 머스크 테슬라 CEO는 지난 2022년 10월 X 인수 후 ‘언론의 자유’를 명목으로 다수의 콘텐츠 규제 관련 정책을 폐기하고 관련 부서 인력도 해고한 바 있다.

황혜진 기자 best@munhwa.com