'스위프트 음란물' 17시간 떠돌았다…"AI 딥페이크 쓰나미 올 것"[팩플]

미국을 대표하는 팝스타 테일러 스위프트. AP=연합뉴스

미국 팝스타 테일러 스위프트의 얼굴에 음란물을 합성한 사진이 퍼지면서, 인공지능(AI)이 생성한 딥페이크에 규제가 필요하다는 목소리가 커지고 있다.

━

무슨 일이야

28일 뉴욕타임스(NYT) 등에 따르면 X(옛 트위터)를 중심으로 테일러 스위프트 얼굴에 성적 이미지를 합성한 딥페이크 사진이 유포됐다. 논란이 커지자 X는 이미지를 삭제하고, ‘테일러 스위프트’를 아예 검색하지 못하도록 조치했다. 하지만 약 17시간 동안 해당 사진이 방치되면서, 딥페이크에 대한 규제가 필요하다는 여론이 미국 내에서 강해지고 있다.

일각에선 딥페이크가 마이크로소프트(MS)의 AI 생성 도구 ‘디자이너’로 제작됐다는 주장도 나왔다. MS측은 이 주장에 대해 자체 조사를 진행 중이다. 사티아 나델라 MS 최고경영자(CEO)는 미국 방송매체 NBC와 인터뷰에서 “딥페이크와 싸우기 위해 빨리 움직이고 행동해야 한다”며 규제의 필요성을 강조했다. 이어 “온라인 세상이 안전할 때 모두 이익을 얻을 수 있다”고 말했다.

━

이게 왜 중요해?

현재 소셜미디어 엑스에선 '테일러 스위프트' 검색을 막았다. 엑스 캡쳐

AI 기술 발달로 딥페이크를 악용한 사례가 기하급수적으로 늘어나고 있다. 과거에도 포토샵을 이용한 합성 음란물이 있었지만, AI는 보다 빠른 시간 내 다량의 딥페이크 이미지를 생성할 수 있다. NYT는 “AI 산업이 호황을 누리면서 기업들은 일반 사용자들이 쉽고 저렴하게 딥페이크를 만들 수 있도록 했다”고 분석했다. 오런 에치오니 워싱턴대 컴퓨터공학과 교수도 “예전에도 불법 합성물은 인터넷상에 많이 있었지만, 앞으로는 AI가 생성하는 노골적인 사진들의 ‘쓰나미’를 보게 될 것”이라고 말했다.

유명인이 아닌 일반인 역시 딥페이크 피해에 노출되고 있다. 조셉 모렐 민주당 하원의원은 자신의 X계정에서 “이런 일(합성 음란물 피해)은 어디서나 여성들에게 일어나고 있다”며 규제 중요성을 강조했다.

━

막을 수 있나

현재 미국 연방정부 차원에서 딥페이크 기술을 규제하는 법은 없다. 다만 9개 주에서만 상대 동의 없이 딥페이크 사진의 생성·공유를 금지하고 있다. 스위프트 팬들은 ‘테일러 스위프트를 보호하라 (#protectTaylorSwift)’는 해시태그를 올리며 연방정부에 딥페이크 규제를 요구하고 있다.

한국에선 AI 딥페이크 기술로 음란물을 제작할 경우 처벌할 수 있다. 성폭력 처벌법 제14조2는 성적 수치심을 유발하는 형태로 영상을 편집·합성·가공하는 경우 5년 이상 징역 또는 5000만원 이하 벌금에 처하도록 하고 있다. 하지만 AI 딥페이크로 음란물을 제작하는 것 자체를 막기는 어렵다. 온라인 특성상 한번 공개된 게시물의 경우 급속도로 퍼지기 때문에 피해 사전 방지 효과는 제한적이다.

김윤희 법무법인 세종 변호사는 “개개인이 딥페이크로 음란물을 만드는 것 자체를 막는 것은 현실적으로 불가능하다"며 "플랫폼 차원에서도 신고받지 않는 사진이나 영상까지 전부 다 규제를 하는 데는 한계가 있다”고 말했다. 이어 “딥페이크 악용을 막기 위해선 음란물 유포 시 영리 목적이 아니더라도 가중처벌하는 방향 등을 고려해야 한다”고 말했다.

김지아 기자 kim.jia@joongang.co.kr