불법합성물 삭제, 세계적 팝스타도 17시간이나 걸렸다

[딥페이크, 파괴된 일상] ③ 테일러 스위프트 사건 그 후

게티이미지뱅크

올해 1월 세계적인 팝스타인 테일러 스위프트의 얼굴을 합성한 성범죄물이 ‘엑스’(X·옛 트위터)를 통해 급속도로 유포되면서, 미국에서도 딥페이크(인공지능 기술인 딥러닝과 ‘가짜’를 의미하는 페이크의 합성어) 기술과 플랫폼을 규제하고 피해자를 보호해야 한다는 여론이 들끓었다. 스위프트 같은 팝스타뿐 아니라 여성 정치인·대학생·청소년에 이르기까지 광범위한 피해가 발생하고 있었기 때문이다.

당시 뉴욕타임스를 비롯한 언론 보도를 보면, 엑스의 한 이용자가 올린 스위프트의 불법합성물은 해당 계정이 차단되기 전까지 17시간 동안 4700만번 이상 조회됐으며 2만4000차례 재게시됐다. 문제의 이미지는 엑스를 넘어 인스타그램·페이스북 같은 소셜미디어로 퍼져나갔다. 엑스는 ‘테일러 스위프트’, ‘테일러 스위프트 에이아이(AI)’ 등 검색어를 차단했으나 우회로를 찾아 어떻게든 불법합성물을 보려는 이들 또한 많았다.

스위프트가 표적이 된 이미지들은 익명 온라인 커뮤니티인 ‘포챈’(4chan)에서 이용자들 간 챌린지(도전 과제) 과정에서 만들어진 것으로 알려졌다. ‘마이크로소프트 디자이너’처럼 텍스트를 이미지로 변환하는 생성형 인공지능(AI) 소프트웨어엔 성적으로 부적절한 이미지 제작을 막기 위한 안전 필터가 있는데, 이런 방어벽을 뚫고 합성물을 만들면서 스위프트를 비롯한 여성 연예인의 이미지를 사용했다는 것이다. 그렇게 만들어진 부적절한 이미지들은 텔레그램 비공개 대화방에서 공유된 뒤 엑스로 퍼져나갔다.

테일러 스위프트의 이미지를 도용한 불법합성물 유포된 사건을 계기로 미국에선 딥페이크 기술 오용에 대한 우려가 커졌다. 시엔엔(CNN) 방송 화면 갈무리

미국 언론은 일부 주 정부가 딥페이크 합성 성범죄물 제작·유포를 금지하고 있지만 연방정부 차원의 규제와 피해자 보호법이 없다고 짚었다. 이런 까닭에 카린 장피에르 백악관 대변인은 “생성형 인공지능이 만든 이미지의 위험성을 줄이려는 노력을 이어가겠다. 의회 또한 전략적인 입법에 나서야 한다”는 입장을 밝힌다.

당시 상황에 대해 권김현영 이화여대 기획연구위원은 “세계에서 가장 영향력 있는 연예인 피해에 대해 미국 백악관부터 거대 빅테크 기업이 움직였음에도 합성물을 지우는 데 17시간이나 걸린 것”이라며 “이런 성범죄물이 한 번 공개됐을 때 얼마나 큰 피해를 야기하는지, 얼마나 많은 사람에게 노출되는지 등 여성 연예인 당사자뿐 아니라 사회 전체도 큰 피해를 본다는 관점으로 이 문제에 접근해야 한다”고 말했다.

이후 미국 의회에선 딥페이크 성범죄물 피해자가 제작·유포자를 상대로 금전적 손해배상을 요구할 수 있도록 하는 ‘디파이언스 법안’(Defiance Act·노골적인 위조 이미지 및 비동의 편집 방지법)이 발의돼 지난 7월 상원 문턱을 넘었다. 법안 발의자 중 한 명인 알렉산드리아 오카시오코르테스 민주당 하원의원(뉴욕주)은 자신 역시 딥페이크 성범죄 피해를 겪은 적이 있다고 밝혔다. “누군가가 진짜라고 생각할 수 있는 이미지를 보는 건 충격적이었다.” (2024년 4월 롤링스톤 인터뷰)

이 외에 딥페이크 성범죄물을 만들기 위한 인공지능 기술 사용 금지, 플랫폼에 삭제 요구를 할 수 있도록 하는 법안 등도 잇달아 발의된 상태다.

실리콘밸리가 있는 샌프란시스코시는 8월 인공지능(AI)을 활용해 딥페이크 성범죄물 제작을 돕는 웹사이트 16곳을 폐쇄하라는 소송을 제기했다. 딥페이크 성범죄물이나 아동 성착취물 제작을 금지하는 캘리포니아주 법 등을 위반했다는 취지다. 데이비드 치우 샌프란시스코시 검사장은 당시 “(이런 서비스는) 혁신이 아니라 성적 학대라는 점을 분명히 해야 한다”며 “딥페이크 성범죄물은 여성과 소녀들을 괴롭히고, 모욕하고, 위협하는 데 사용된다”고 비판했다. 그러면서 올해 상반기에만 16개 사이트 방문 건수는 2억회가 넘는다고 밝혔다.

미국 시사주간지 타임은 15살 프란체스카 마니를 2024년 인공지능 분야 가장 영향력 있는 인물 100인에 선정했다. 타임 누리집 갈무리

사회 변화를 촉구하는 피해 당사자들의 목소리도 이어졌다. 올해 15살인 프란체스카 마니도 그 중 하나다. 지난해 10월 그가 재학 중인 웨스트필드 고등학교에서는 여러 명의 남학생이 여학생들 사진을 도용해 딥페이크 성범죄물을 만들어 채팅방에서 유포한 사건이 발생했다. 피해자로서 보호를 받을 수 없었던 마니는 어머니와 함께 정치인, 교육 당국, 빅테크 기업 등을 만나 법·제도 개선을 촉구하는 활동에 나섰다. 최근 시사주간지 타임은 그를 인공지능 분야에서 가장 영향력 있는 100인으로 선정했다. 마니는 타임과의 인터뷰에서 이렇게 말했다.

“14살 내게 일어난 일은, 누구에게나 닥칠 수 있는 일입니다. 내게 연락해 온 다른 주, 다른 나라 피해자가 많습니다. 우리 모두는 인공지능(AI)에 대한 학교 정책과 법률의 부재, 동의에 대한 무시라는 공통의 문제를 갖고 있습니다.”

박현정 기자 saram@hani.co.kr 정인선 기자 ren@hani.co.kr 김효실 기자 trans@hani.co.kr