음란물부터 금융사기까지…‘딥페이크 쓰나미’에도 규제는 요원 [가짜와의 싸움]

딥페이크로 아동 성착취물 사상 최고
정교한 기술에 진위구분 어려워져
중국 딥페이크 포괄 규제 시작
대선 앞둔 미, 의회에 전략적 입법 조치 요구

테일러 스위프트. [사진=AP]

[헤럴드경제=김현경 기자] 지난주 팝스타 테일러 스위프트의 얼굴에 노골적인 자세가 합성된 음란 이미지가 소셜미디어 엑스(X·옛 트위터)에서 확산돼 미국 사회가 발칵 뒤집혔다. 대중을 감쪽같이 속인 이 이미지는 인공지능(AI)으로 만든 ‘딥페이크(deepfake)’였다.

딥페이크는 딥러닝(deep learning)과 가짜(fake)의 합성어로 AI 기술을 기반으로 만들어낸 가짜 이미지, 오디오, 비디오 등을 의미한다.

2017년 미국 온라인 커뮤니티에 ‘Deepfakes’라는 아이디를 가진 사용자가 유명 배우의 얼굴을 합성한 가짜 음란 동영상을 올리면서 시작된 딥페이크는 이처럼 연예인을 대상으로 한 동영상이나 아동 성 착취물 등 음란물이 95% 이상을 차지하고 있다.

워싱턴포스트(WP)의 최근 보도에 따르면 존 셰핸 미국 실종학대아동방지센터(NCMEC) 소장은 온라인 플랫폼상의 아동 성 착취물 신고가 2022년 약 3200만건에서 지난해 약 3600만건으로 증가해 사상 최고치를 기록했다고 밝혔다.

음란물이 대부분이지만 딥페이크는 정치, 금융 등 광범위한 분야로 확장하며 선거에 악용되거나 금융 사기 수단이 되고 있다.

문제는 AI 기술이 발달하면서 딥페이크 영상이나 이미지의 진위를 구별하기가 점점 어려워지고 있다는 점이다. 관련 전문가나 식별 프로그램이 아닌 일반인이 딥페이크를 접했을 때 실제와 혼동하기 쉽다는 얘기다. 수용자들은 허상을 사실로 믿고 판단을 내리거나 이를 무분별하게 실어나를 수 있다.

특히 소셜미디어를 통해 실시간으로 불특정 다수에게 확산돼 피해와 부작용이 더욱 크다. 최초 생산자를 찾기가 어렵고 유포를 막기도 쉽지 않다.

딥페이크 알고리즘이 온라인 상에 공유돼 누구나 딥페이크 이미지를 만들 수 있고, 유명인뿐 아니라 일반인도 언제든 희생양이 될 수 있다는 점도 우려를 키우는 대목이다.

딥페이크의 공습은 숫자로도 확인된다. 미국 정보기술(IT) 전문매체 와이어드에 따르면 2023년 1~3분기 딥페이크 포르노를 호스팅하는 상위 35개 웹사이트에 24만4635개 이상의 딥페이크 동영상이 업로드됐다.

AI 이미지. [사진=로이터]

AI가 만들어낸 딥페이크가 빠르게 성장하고 있지만 규제는 그 속도를 따라가지 못하고 있다. 대다수 국가에서 딥페이크 제작물을 처벌할 수 있는 법안이 없어 규제하지 못하는 상황이다.

미국은 50개 주 가운데 9개 주에서만 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있으며 연방정부 차원의 규제는 전무하다.

유럽연합(EU)은 지난해 말 AI 규제 법안 초안에 합의했으나 시행까지는 1~2년이 걸릴 전망이다.

중국의 경우 지난해 1월 세계 주요국 중 처음으로 딥페이크에 대한 포괄적 규제를 시행했다. 중국 국가인터넷정보판공실이 도입한 ‘인터넷 정보 서비스 딥 합성 관리 규정’은 딥페이크 서비스 제공자와 이를 이용하는 콘텐츠 제작자가 해당 기술을 사용해 콘텐츠를 만들 경우 그러한 사실을 눈에 보이게 표시하고 디지털 표식(워터마크)을 붙여 원본을 추적할 수 있도록 요구한다. 또 딥페이크 기술로 누군가의 이미지나 목소리를 편집하려고 할 때는 당사자의 동의를 구하도록 의무화했다.

최근 딥페이크로 인한 피해 사례가 늘면서 규제가 필요하다는 목소리가 커지고 있다.

11월 대선을 앞둔 미국에서는 올해 들어 최소 13개 주에서 딥페이크 콘텐츠로 선거 관련 허위 정보가 확산하는 일을 방지하기 위한 법안이 추진되고 있다.

백악관은 스위프트 사건에 대해 우려를 표하며 규제 필요성을 언급했다. 카린 장-피에르 백악관 대변인은 “우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어업체들이 정보 제공 및 규칙을 시행하는 데 해야 할 중요한 역할이 있다고 본다”면서 “조 바이든 대통령은 지난해 행정명령을 발표한 것처럼 생성형 AI가 생산한 이미지에 대한 리스크를 줄이기 위해 노력하고 있다. 우리는 계속해서 조치를 취할 것이며 의회도 전략적인 입법 조치를 취해야 한다”고 말했다.

AI 기술을 제공하는 마이크로소프트(MS)의 사티아 나델라 최고경영자(CEO)도 NBC와의 인터뷰에서 스위프트의 딥페이크에 관한 질문에 “놀랍고 끔찍하다”며 “(딥페이크와 싸우기 위해) 우리는 빨리 움직여야 하고 행동해야 한다. 기술 주위에 안전장치를 설치해 안전한 콘텐츠가 더 많이 생산될 수 있도록 해야 한다”고 답했다.

미 연방 상원 법사위원회는 아동 성 착취물 문제를 다루기 위해 오는 31일 청문회를 연다. 청문회에는 메타, X, 스냅, 틱톡, 디스코드 등 주요 기술기업 최고경영자(CEO)들이 출석해 아동 성 착취물에 대응하기 위한 각사의 노력에 대해 증언할 예정이다.

그동안 ‘표현의 자유’를 이유로 딥페이크를 통제하지 않았던 X는 청문회를 사흘 앞두고 아동 성 착취물 등 불법 콘텐츠를 단속할 ‘신뢰와 안전 센터’를 신설한다고 밝혔다.

블룸버그통신, AFP통신에 따르면 조 베나로치 X 사업운영책임자는 텍사스주 오스틴에 신설하는 센터에 100명의 콘텐츠 관리자를 정규직으로 채용, 아동 성 착취물과 관련된 자료를 단속하는 데 중점을 두면서 혐오 발언이나 폭력적인 내용의 게시물을 규제하는 플랫폼 정책을 실행하는 데에도 기여하도록 할 계획이라고 발표했다.

pink@heraldcorp.com