테일러 스위프트 '음란 딥페이크' "AI 이대로 괜찮나" 미국이 발칵

얼굴 합성한 음란사진 유통
백악관·MS CEO도 우려

테일러 스위프트의 공연 실황을 담은 영화 '디 에라스 투어' 포스터.

미국인들이 사랑하는 팝스타 테일러 스위프트가 인공지능(AI) 딥페이크의 희생양이 되면서 미국이 들썩이고 있다. 분노한 팬심을 다독이기 위해 백악관과 의회는 대책 마련에 나섰고, AI 산업을 선도하고 있는 마이크로소프트(MS)는 '안전장치가 필요하다'는 메시지를 냈다.

26일(현지시간) 미국 뉴욕타임스(NYT)와 CNN 방송 등에 따르면 지난주 엑스(X·옛 트위터)에서 스위프트의 얼굴이 합성된 딥페이크 음란 이미지가 최소 4700만회 조회됐다.

딥페이크란 AI 기술로 교묘하게 합성해 만든 가짜 이미지나 동영상 등을 말한다. 이 이미지들은 현재 삭제된 상태지만 팬들은 X가 상당 시간 음란 이미지가 노출되도록 방치했다면서 분노를 쏟아내고 있다.

여론이 심상치 않자 정치권이 나섰다. 커린 잔피에어 백악관 대변인은 이날 브리핑에서 스위프트 딥페이크와 관련해 "매우 우려스럽다. 조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지 리스크를 줄이기 위해 노력하고 있다"며 "우리는 계속 조치를 취할 방침이며 의회도 전략적인 입법 조치를 취해야 한다"고 말했다. NYT에 따르면 현재 미국 9개주는 AI 딥페이크 이미지를 당사자의 동의 없이 만들거나 공유하는 행위를 금지하는 법률을 시행하고 있지만, 아직 연방정부 차원의 규제는 없다.

민간 업계에서도 안전 조치를 마련할 필요성이 있다는 데 공감한다는 목소리가 나왔다. AI 업계에서 선두 경쟁을 벌이고 있는 MS의 최고경영자(CEO) 사티아 나델라는 미 NBC 방송과의 인터뷰에서 "AI 기술에 안전장치를 설치해 안전한 콘텐츠가 생산되도록 하는 일은 우리의 책임"이라며 "동시에 법 집행기관도 기술 플랫폼들과 협력해 더 많은 것을 규제할 수 있을 것"이라고 말했다.

나델라가 정부 규제에 적극적으로 찬성 의견을 낸 이유는 이번 스위프트 딥페이크 이미지가 MS의 AI 생성 도구인 '디자이너'로 만들어졌다는 의혹이 있기 때문이다. 앞서 MS는 이에 대해 조사하고 있다는 입장을 밝힌 바 있다.

AI 등장 이후 딥페이크 이미지 등은 온라인에 홍수처럼 불어나고 있다. 영국 BBC 방송은 한 연구 논문을 인용해 지난해 기준 딥페이크 이미지 제작 건수가 2019년과 비교해 550% 증가했다고 보도했다. 또 지난해 미국에서 발간된 '딥페이크 현황 보고서'에 따르면 온라인에 유통되는 딥페이크 관련 제작물은 대부분 포르노였다. 피해자 중 99%는 여성인 것으로 나타났다.

[김상준 기자]