‘스위프트 딥페이크’에 발칵... “MS의 AI로 만들고, X 통해 퍼졌다”

뒤늦게 딥페이크 규제 나설 듯

인기 팝가수 테일러 스위프트의 얼굴을 합성한 ‘딥페이크(인공지능 활용 가짜 콘텐츠)’ 음란물 사태는 딥페이크가 얼마나 쉽고 빠르게 확산되면서 피해를 키울 수 있는지를 여실히 보여줬다. 스위프트 같은 수퍼스타를 노렸음에도, 소셜미디어의 안전장치는 뒤늦게 작동했고 완벽하지도 않았다. “세상을 뒤집어 놓았다”는 평가까지 나오는 이번 사건으로 딥페이크에 대한 강도 높은 규제가 본격 시행될 것이라는 전망이 나온다. 포브스는 “지금까지 유명한 딥페이크가 수없이 있었고, AI 등 기술 발전으로 더 멈추기 어려워질 것이라는 경고도 거듭 있었다”면서 “스위프트의 딥페이크가 나오고서야 백악관과 미 의회가 움직였다”고 했다. 미지근한 태도로 일관하던 정치권을 비꼰 것이다.

그래픽=김성규

◇곳곳에서 ‘딥페이크 규제’ 목소리

스위프트의 음란 딥페이크 이미지는 지난 25일 저녁(현지 시각) X에 처음 게시되자마자 순식간에 온라인에 퍼져 나갔다. X는 19시간 뒤 해당 계정과 이를 퍼 나른 계정을 모두 삭제하고, X에서 ‘테일러 스위프트’ 관련 정보를 검색할 수 없게 했다. X에서 ‘테일러 스위프트’를 검색하면 ‘뭔가 잘못됐다’는 안내 문구만 뜬다. 테크 업계 관계자는 “스위프트 팬들이 X에서 ‘스위프트를 보호하라’는 문구를 올리는 등 항의가 쇄도해 이례적으로 빠르게 조치한 것”이라며 “그럼에도 소셜미디어의 특성상 한번 퍼져 나간 콘텐츠를 회수하기는 사실상 불가능해 피해자들은 영원히 문제 콘텐츠가 인터넷 어딘가에 남아 있는 고통을 견뎌야 한다”고 했다.

미국 정계에선 딥페이크 문제를 규탄하는 목소리가 쏟아지고 있다. 이베트 클라크 민주당 하원의원은 “수년 동안 여성들은 동의 없는 딥페이크의 표적이 되어 왔고, AI의 발전으로 딥페이크 만들기가 더욱 쉽고 저렴해졌다”면서 “초당적 협력이 있어야만 해결 가능한 문제”라고 했다. 카린 장피에르 백악관 대변인도 “백악관은 계속해서 생성형 AI가 생산한 이미지의 위협을 줄이려는 노력을 이어갈 것이며, 의회도 전략적 입법 조치를 해야 한다”고 했다.

테크 업계는 긴장하고 있다. 사티아 나델라 마이크로소프트(MS) 최고경영자는 27일 NBC 인터뷰에서 이 사건이 “놀랍고 끔찍하다”며 “딥페이크와 싸우기 위해 우리는 빨리 움직이고 행동해야 한다”고 했다. 이어 “AI 기술에 안전장치를 설치하는 것은 우리 책임”이라며 “법 집행 기관이 기술 플랫폼과 협력하면 더 많은 것을 규제할 수 있을 것”이라고 했다. 스위프트 딥페이크를 만드는 데 MS의 AI 도구 ‘디자이너’가 쓰였다는 주장이 제기되고 있는 상황을 무마하기 위해 MS가 AI 규제에 적극 찬성하는 모습을 보인 것이라는 평가가 나온다. 이미지 확산 주범으로 지목된 X는 “확인된 모든 이미지를 적극 삭제하고 있으며, 위반 사항을 새로 발견하면 즉시 해결할 수 있도록 살피고 있다”고 밝혔다.

그래픽=김성규

◇일반인도 못 피해

지난해 유명 배우 톰 행크스와 스칼릿 조핸슨도 딥페이크 때문에 가짜 광고의 피해를 겪었다. 행크스는 “나의 AI 버전으로 치과 보험을 홍보하는 영상이 있다. 그 광고는 나와 아무 관련이 없다”고 주장했다. 비슷한 피해를 당한 조핸슨은 자신의 이미지로 광고를 제작하는 데 사용된 AI 앱 회사에 대해 법적 조치를 취하고 있다. 사이버 보안 회사 홈시큐리티히어로스에 따르면 지난해 온라인에 올라온 딥페이크 동영상 수는 9만5820건으로 AI가 확산되기 전인 2019년보다 약 550% 늘었다.

특히 딥페이크 음란물 피해가 심각하다. 유명인이 주요 대상이 되지만 일반인이 피해를 보는 일도 많다. 홈시큐리티히어로스는 “선명한 이미지 하나로 60초짜리 음란 영상을 만드는 데 25분도 걸리지 않고 비용은 무료”라고 했다.

AI 업체뿐 아니라 딥페이크 유통과 확산 통로가 되는 소셜미디어도 규제 대상에 포함해야 한다는 주장도 있다. X를 비롯한 소셜미디어는 피해자의 게시 글 삭제 같은 요청에 소극적으로 대응하는 경우가 대부분이다. 이러면 피해자 개인이 정부 기관을 통해 소셜미디어에 삭제를 요청하는 수밖에 없다. 방송통신심의위원회가 국내에서 딥페이크 성적 허위 영상물에 차단·삭제 시정을 요구한 것은 2020년 473건에서 2023년(11월까지) 5996건으로 급증했다.