테일러 스위프트도 당했다…딥페이크 음란 사진에 美 '발칵'

X 등 SNS서 공유...조회수 4700만회
"생성형AI 리스크 줄이는 노력 필요"

테일러 스위프트.ⓒ연합뉴스

팝스타 테일러 스위프트의 얼굴 사진이 합성된 음란한‘딥페이크(Deepfake)’ 이미지가 온라인에서 퍼지고 있다. 딥페이크는 딥러닝(Deep learning)과 가짜(Fake)란 말의 합성어로, AI 기술을 기반으로 만들어낸 '가짜' 이미지, 오디오, 비디오 등을 의미한다.

26일(현지시간) 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 최근 스위프트의 얼굴에 성적으로 노골적인 자세가 합성된 딥페이크 이미지가 소셜미디어 엑스(X, 옛 트위터) 등에서 확산했다.

해당 이미지를 올린 소셜미디어 계정들은 모두 정지된 상태다. 하지만 삭제 전까지 4700만회나 조회됐다.

이 이미지의 최초 출처는 불분명하지만 주로 X에서 공유됐고, 일부는 인스타그램이나 레딧 등에서도 나타난 것으로 알려졌다.

X는 관련 성명에서 "확인된 모든 이미지를 적극적으로 삭제하고 해당 이미지를 게시한 계정에 대해 적절한 조처를 했다"며 "추가적인 위반 사항이 발견되면 즉시 해결할 수 있도록 상황을 면밀히 모니터링하고 있다"라고 했다.

AI 탐지를 전문으로 하는 사이버보안업체 리얼리티 디펜더는 NYT와의 인터뷰에서 "해당 이미지가 AI 모델을 사용해 생성된 것으로 90% 확신한다"라고 밝혔다.

카린 장-피에르 백악관 대변인은 이날 브리핑에서 테일러 스위프트의 합성 이미지가 온라인에서 확산되는 것과 관련, "매우 우려스럽다"면서 "우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야할 중요한 역할이 있다고 본다"고 말했다.

이어 "슬프게도 이런 (규칙) 집행의 부재는 여성과 소녀들에게 더 큰 영향을 미친다"면서 "조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다"고 덧붙였다.