스위프트도 당해… ‘AI 딥페이크’ 파문

세계적 팝스타 합성 음란물에 발칵… 소셜미디어 조회 최소 4700만회

테일러 스위프트가 2023년 11월 9일 아르헨티나 부에노스아이레스에서 열린 디 에라스 투어 콘서트에서 공연을 하는 모습./AP 연합뉴스

인공지능(AI) 기술의 가장 큰 부작용으로 꼽히는 ‘딥페이크(deepfake·AI가 생성한 가짜 콘텐츠)’를 규제하라는 목소리가 급속히 확산되고 있다. 세계 최고 인기 팝가수인 테일러 스위프트의 얼굴과 음란물을 합성한 AI 조작 이미지가 지난 주말 소셜미디어에 범람하며 미국 사회를 발칵 뒤집어놨기 때문이다. 백악관과 미 의회까지 나서 ‘딥페이크 척결’을 법제화해야 한다고 목소리를 높이고 있다. 테크 기업과 세계 각국이 뚜렷한 방법을 찾지 못하던 딥페이크 대응책이 수퍼스타인 스위프트 사건을 계기로 급진전을 이룰 수 있을지 주목된다.

26일(현지 시각) 뉴욕타임스 등 외신을 종합하면, 한 X(옛 트위터) 이용자가 올린 스위프트 딥페이크 이미지는 19시간 동안 4700만회 이상 조회됐다. 이 이미지를 퍼나른 다른 계정의 게시물도 수천만 회의 조회 수와 수십만 건의 ‘좋아요’를 기록했다. X는 뒤늦게 문제 계정들을 삭제하고 ‘테일러 스위프트’를 검색하지 못하게 했지만, 이미 페이스북·텔레그램 등 다른 소셜미디어로 퍼진 지 오래였다.

USA투데이는 “스위프트 사건은 딥페이크 위협의 빙산의 일각”이라고 전했다. 누구나 손쉽게 조작할 수 있는 AI가 보편화되면서 유명인은 물론 일반인도 딥페이크 피해를 보는 사례가 급증하고 있기 때문이다.

딥페이크의 범람은 진실과 거짓의 경계까지 사라지게 만들고 있다. 도널드 트럼프 전 미국 대통령은 지난달 발음을 제대로 못 하는 자신을 촬영한 영상을 두고 ‘AI가 생성한 것’이라고 거짓 주장을 했다. 진실을 딥페이크라고 우긴 것이다. 허위 정보 추적 기관인 그래피카의 리비 랭 분석가는 “AI가 진실의 개념 자체를 불안정하게 만들고 있다”며 “모든 것이 가짜가 될 수 있고, 진짜도 조작됐다고 주장할 수 있게 됐다”고 했다.