테일러 스위프트 ‘딥페이크’ 음란사진에 美 발칵... 규제 목소리 높아져

X에서 AI합성 음란 사진 확산
MS의 생성형 AI도구 지목돼
나델라, “끔찍...규제해야”

팝스타 테일러 스위프트./로이터 연합뉴스

주말 사이 인공지능(AI) 기술로 만들어진 팝스타 테일러 스위프트의 딥페이크(deepfake) 음란 이미지가 소셜미디어에서 확산해 팬들의 공분을 사고 있다. 소셜미디어가 뒤늦게 검색 차단 조치를 취했지만, 해당 이미지는 이미 수천만회 이 상 조회된 것으로 나타났다. 소셜미디어에서 급격하게 확산하는 딥페이크 이미지·영상에 대한 규제가 필요하다는 목소리가 커지고 있다.

26일(현지 시각) 뉴욕타임스등 외신은 X에서 음란 사진에 테일러 스위프트의 얼굴을 합성한 가짜 사진이 광범위하게 확산됐다고 전했다. X는 문제의 계정을 정지하고, 플랫폼 내에서 테일러 스위프트를 검색할 수 없도록 긴급 조치를 내렸다. 그럼에도 문제의 이미지는 X에서만 4700만회 조회됐고, 인스타그램·페이스북 등 다른 소셜미디어로 전파됐다. AI가 나타나며 간단한 명령어 몇줄 만으로도 그럴듯한 가짜 이미지를 만들어 낼 수 있게되면서 생긴 대표적인 부작용 사례인 것이다. 현재 스위프트 측은 자신의 합성 이미지를 만든 소셜미디어 계정 등을 상대로 법적 대응을 검토 중인 것으로 알려졌다.

테일러 스위프트의 팬덤인 ‘스위프티’는 X에서 스위프트를 보호하라는 문장을 올리는 집단 행동에 나선 상태다. 조 모렐 미국 민주당 하원의원은 해당 사건이 “끔찍하다”고 했고, 마크 워너 민주당 상원의원은 “AI가 합의되지 않은 은밀한 이미지를 생성하는데 사용될 수 있다고 반복해서 경고해왔으며, 이는 개탄스러운 상황”이라고 했다. 테크 업계에서는 이번 사건을 계기로 정치권에서 소셜미디어에 범람하는 딥페이크 영상과 관련된 규제 법안이 쏟아질 수 있다는 관측이 나온다.

AI산업에서 앞서가고 있는 마이크로소프트(MS)의 사티아 나델라 최고경영자(CEO) 역시 미 NBC 방송과의 인터뷰에서 해당 사건에 대해 “놀랍고 끔찍”하다며 “(딥페이크와 싸우기 위해) 빨리 움직이고 행동해야한다”고 말했다. 그러면서 “AI기술에 안전장치를 설치해 안전한 콘텐츠가 생산되도록 하는 것은 우리의 책임”이라며 “동시에 법 집행 기관은 기술 플랫폼과 함께하며 더 많은 것을 규제할 수 있을 것”이라고 했다.

나델라가 정부 규제를 적극 찬성하며 딥페이크 논란에서 거리를 두려고 하는 것은 이번 스위프트 딥페이크 이미지가 MS의 AI생성 도구인 ‘디자이너’로 만들었다는 주장이 제기됐기 때문이다. MS는 이에 대해 “조사중”이라고 밝혔다.

스위프트 뿐만이 아니다. 최근 미국 대선과 관련해서도 뉴햄프셔 프라이머리(예비경선)을 하루 앞두고 민주당 당원들에게 투표 거부를 독려하는 조 바이든 대통령의 가짜 목소리를 담은 전화 음성이 소셜미디어에 확산에 문제를 일으키기도 했다. 카린 장-피에르 백악관 대변인은 스위프트 합성 이미지 사태에 대해 “매우 우려스럽다”며 “계속해서 생성형AI가 생산한 이미지에 대한 리스크를 줄리기 위한 노력을 이어갈 것이며, 의회도 전략적인 입법 조치를 취해야 한다”고 했다.