테일러 스위프트 ‘딥페이크’ 성착취물…백악관도 ‘화들짝’

사티아 나델라 MS CEO. AFP연합뉴스

세계적인 팝가수 테일러 스위프트의 얼굴을 합성한 ‘딥페이크’ 성착취물이 온라인을 통해 퍼지면서 큰 파장을 일으키고 있다. 마이크로소프트(MS)의 사티아 나델라 CEO(최고경영자)는 물론 백악관까지 나서 규제의 필요성을 강조했다.

인공지능(AI) 산업 선두주자 중 하나인 MS의 나델라 CEO는 27일(현지시간) 미 NBC 방송과의 인터뷰에서 스위프트 사건을 두고 “걱정스럽고 끔찍하다”고 말했다. 그는 “(딥페이크와 싸우기 위해) 우리는 빨리 움직이고 행동해야 한다”면서 안전 장치가 필요하다고 강조했다.

그는 “온라인 세상을 안전한 환경으로 만들어야 우리 모두에게 이롭다고 생각한다”면서 “AI 기술과 관련한 안전장치를 마련해 안전한 콘텐츠가 생산될 수 있도록 하는 것은 우리의 책임이다. 법과 집행 기관, 기술 플랫폼이 함께할 때 더 많은 것을 규제할 수 있다”고 덧붙였다.

앞서 MS는 스위프트의 딥페이크 이미지가 MS의 AI 생성 도구인 ‘디자이너’로 만들어졌다는 의혹이 제기되자 이를 조사하겠다고 밝힌 바 있다. 그러나 나델라 CEO는 이날 인터뷰에서 해당 의혹에 대해서는 언급하지 않았다.

테일러 스위프트. AP연합뉴스

최근 사회관계망서비스(SNS) 상에서는 스위프트의 사진을 교묘하게 합성해 노골적으로 성적 대상화하는 딥페이크 이미지가 빠르게 확산했다. 딥페이크란 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 가짜 이미지, 오디오, 비디오 등을 의미한다.

현재 해당 이미지를 올린 SNS 계정들이 삭제돼 검색과 조회는 불가능하지만, 삭제 전까지 4700만회 이상 조회된 것으로 알려졌다. X는 첫 게시글이 올라온 지 19시간이 지난 뒤 사진이 공유된 다수 계정을 정지했지만 이미 ‘공유’ 기능을 타고 다른 SNS까지 빠르게 확산됐다. 현재 X에서 ‘테일러 스위프트’를 검색하면 “뭔가 잘못됐다”(Something went wrong)는 메시지가 뜬다.

미국 정부도 이번 사건을 심각하게 받아들이는 분위기다. 커린 잔피에어 백악관 대변인은 전날 브리핑에서 이번 사태가 “매우 우려스럽다”면서 “(가짜 이미지 등의 확산을 막을) 규칙의 부재는 슬프게도 여성과 청소년에게 더 큰 영향을 미친다”고 했다. 이어 그는 “조 바이든 대통령은 지난해 행정명령을 발표하는 등 생성형 AI가 생산한 이미지로 인한 위험을 줄이기 위해 노력하고 있다. 우리는 계속해서 필요한 조치를 취할 것이며 의회의 입법도 필요하다”고 강조했다.

현재 미국 내 9개 주에서는 AI 기술로 타인의 모습을 합성한 딥페이크 사진을 당사자 동의 없이 만들거나 공유하는 것을 법으로 금지하고 있다. 하지만 연방 정부 차원의 규제는 없는 상황이라고 외신들은 전했다.

AI가 성착취물에 활용돼 충격을 준 것은 처음이 아니다. 지난해 미국에서는 뉴저지주의 한 고등학교에서 남학생 2명이 교내 여학생들의 딥페이크 나체 사진을 만들어 유포한 사건이 알려져 충격을 줬다. 스페인에서도 AI로 만들어진 십대 여학생들의 나체 사진이 온라인상에 유포돼 20명 이상이 피해를 겪었다.

---

☞ AI가 만든 아동·청소년 나체 사진 집단 유포에 스페인 ‘발칵’…“AI 범죄 대응 서둘러야”
     https://www.khan.co.kr/world/world-general/article/202309241504001

---

대니얼 시트론 버지니아대 법학전문대학원 교수는 CNN 인터뷰에서 “유명인들만 타깃이 되는 것은 아니다. 평범한 사람들 모두가 피해에 노출돼 있다”면서 “다른 사람들이 나를 성적으로 대상화하는 데서 (피해자들이) 느끼는 모욕감은 그들의 사회적 자존감에 큰 타격을 준다”고 우려했다.

최혜린 기자 cherin@kyunghyang.com