엑스, 스위프트 검색 차단…아동 성착취물 단속팀도 신설

스위프트 딥페이크 확산후 대응 촉구 잇따라 후속조치
"전세계 여성·어린이 타깃" 지적에 관련 단속팀도 신설

[이데일리 방성훈 기자] 엑스(X·옛 트위터)가 팝스타 테일러 스위프트에 대한 검색을 차단했다. 인공지능(AI)을 사용해 만든 스위프트의 딥페이크가 확산하는 것을 막기 위해서다. 엑스는 또 AI가 생성한 음란물이 스위프트뿐 아니라 전 세계 여성과 아동을 대상으로 한다는 지적에 ‘아동 성착취물 단속팀’도 신설하기로 했다.

미국 여성 팝가수 테일러 스위프트. (사진=AFP)

28일(현지시간) 파이낸셜타임스(FT) 등에 따르면 엑스는 이날 ‘테일러 스위프트’ 또는 ‘테일러 AI’ 등과 같은 스위프트 관련 검색어를 차단했다. 이 회사의 사업운영 책임자인 조 베나로치는 이번 조치에 대해 “일시적 대응”이라며 “우리는 이 문제에 대해 안전을 최우선으로 생각하기 때문에 많은 주의를 기울여 (검색 차단 작업을) 수행하게 됐다”고 설명했다.

앞서 지난 24일부터 엑스에서는 스위프트의 얼굴 사진을 나체 이미지와 악의적으로 합성한 딥페이크가 유포되기 시작했고 주말을 거치면서 빠르게 확산했다. 딥페이크는 주로 엑스에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 발견됐다. 딥페이크란 AI를 사용해 진짜처럼 합성한 이미지, 목소리, 영상 등을 뜻한다.

스위프트는 딥페이크 확산과 관련해 공식 입장을 표명하지 않았지만 각계각층에서 대책 마련이 시급하다는 목소리가 이어졌다. 스위프트는 미국 시사주간지 타임이 뽑은 ‘2023년 올해의 인물’에 선정될 정도로 전 세계 청소년들에게 막대한 영향력을 행사하고 있다. 엑스에는 스위프트 팬들의 항의가 빗발쳤고, 사티아 나델라 마이크로소프트 최고경영자(CEO)는 “놀랍고 끔찍하다. 빨리 움직이고 행동해야 한다”고 촉구했다. 백악관까지 나서 규제의 필요성을 강조했다.

이후 엑스는 성명을 내고 “확인된 모든 이미지를 적극적으로 삭제하고 해당 이미지를 게시한 계정에 대해 적절한 조처를 했다”면서 계정 정지 사실을 알렸다. 이어 “추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다”고 덧붙였다.

아울러 CNN방송은 “딥페이크에 대한 우려는 스위프트뿐이 아니다. 딥페이크는 전 세계 여성과 어린이들을 대상으로 하고 있다”면서 “미국 뉴저지부터 스페인에 이르기까지 여고생들이나 유명 여성 트위치 스트리머 등이 자신의 얼굴이 AI에 의해 만들어진 가짜 포르노 등에 사용돼 온라인에 유포되고 있다는 사실을 발견하고 있다”고 지적했다.

이에 엑스는 아동 성착취물 단속팀을 신설하기로 했다. 베나로치는 “텍사스 오스틴에 신설하는 센터에 100명의 콘텐츠 관리자를 정규직으로 채용할 계획”이라며 “이 센터는 아동 성 착취물과 관련된 자료를 단속하는 데 중점을 두면서 혐오 발언이나 폭력적인 내용의 게시물을 규제하는 플랫폼 정책을 실행하는 데에도 기여하도록 할 계획”이라고 밝혔다.

그는 “엑스는 아동을 대상으로 하는 별도의 사업 분야가 없지만, 범법자들이 우리 플랫폼을 이용해 아동 성범죄 콘텐츠를 배포하거나 이에 관여하는 것을 막는 데 투자하는 것은 중요하다”고 강조했다.

방성훈 (bang@edaily.co.kr)