세계적 팝스타 테일러 스위프트도 '딥페이크'에 당했다

미국 팝스타 테일러 스위프트. 위키미디어 제공

세계적 팝스타 테일러 스위프트의 얼굴을 딥페이크 기술로 합성한 음란물이 소셜네트워크서비스(SNS)를 통해 퍼지면서 미국 사회에 큰 파장이 일고 있다. 백악관 대변인은 28일(현지시간) "사회에 경종을 울리는 사건"이라며 "국회가 입법 조치를 취해야한다"는 입장을 내놨다. 

미국 싱어송라이터 테일러 스위프트는 2023년 타임지 '올해의 인물'로 선정된 팝스타다. 스위프트가 앨범 투어를 돌기 시작한 지난해 스위프트의 방문지마다 소비율이 급격히 높아지며 지역 경제가 들썩이자 '테일러노믹스(테일러+경제)'라는 신조어까지 등장했다.  

앞서 1월 16일~17일경(현지시간) SNS 상에서 스위프트의 얼굴을 합성한 딥페이크 음란물이 SNS를 통해 빠르게 퍼져나갔다. 딥페이크는 인공지능(AI)을 활용해 합성한 가짜 이미지나 영상을 말한다. 스위프트의 가짜 이미지는 'X'(전 트위터)에 공유돼 17일 계정이 정지되기 전까지 4700만 회 조회된 것으로 나타났다. 

X는 첫 게시글이 올라온 지 19시간이 지난 뒤 사진이 공유된 다수 계정을 정지했지만 이미 '공유' 기능을 타고 다른 SNS까지 빠르게 확산됐다. X는 이어 '테일러 스위프트' 검색 기능을 급히 막아뒀다. 

X는 '이용자를 속이거나 해악을 초래할 수 있는 합성, 조작된 미디어의 공유'를 정책적으로 금지하고 있다. CNN에 따르면 X 관계자는 이번 사태에 대해 "안전을 최우선으로 놓고 신중을 기해 조치를 취했다"고 27일(현지시간) 밝혔다. 

해당 딥페이크 이미지는 마이크로소프트(MS)사가 출시한 AI 이미지 생성기인 '디자이너'로 생성된 것으로 알려졌다. 26일(현지시간) 사티아 나델라 MS 최고경영자(CEO)는 NBC 뉴스에 출연해 "놀랍고 끔찍하다"는 반응을 보였다. 그러면서 "(테크 기업은) 더 안전한 콘텐츠가 생성되도록 가드레일을 설치할 책임이 있다"고 말했다. 

이번 사건으로 딥페이크 기술의 위험성이 부각되자 백악관에는 '딥페이크 기술 제어 정책을 조속히 마련해야 한다'는 청원이 물밀듯이 쏟아진 것으로 알려졌다. 이에 백악관도 28일(현지시간) 미국 ABC 뉴스를 통해 "사회의 경종을 울린 사건"이라며 "의회가 입법 조치를 취해야 한다"는 입장을 발표했다.

카린 장 피에르 백악관 대변인은 ABC 뉴스에 "딥페이크로 만든 이미지들이 유통되고 있다는 사실에 경각심을 갖고 있다"며 "딥페이크 피해자를 위한 24시간 운영 긴급센터를 발족하는 등 노력하고 있다"고 말했다. 

그러나 전문가들은 "딥페이크 규제 조치는 효과가 없다"며 의구심을 표하는 상황이다. AI 탐지 사이버 보안 회사 '리얼리티 디펜더'를 운영하는 벤 콜먼 최고경영자(CEO)는 26일(현지시간) 뉴욕타임스와의 인터뷰를 통해 "미국 내 일부 주에서 음란물 및 정치적 목적의 딥페이크를 제한하는 규제를 만들었지만 영향력이 없다"며 "연방정부 차원에서의 규제는 없는 실정"이라고 말했다.    

국내에서도 총선을 앞두고 정치인에 대한 허위 정보를 퍼뜨릴 수 있는 딥페이크 기술 단속에 나섰다. 지난해 12월 개정된 공직선거법에 따라 29일부터 딥페이크 기술을 통한 이미지·영상 제작 및 게시가 전면 금지된다. 중앙선거관리위원회도 AI 전문가 등으로 꾸려진 딥페이크 감별반 운영에 나섰지만 실제 단속 효과는 크지 않을 것이라는 전망도 제기된다. 

[박건희 기자 wissen@donga.com]