美백악관, AI 딥페이크 음란물 막기 위해 나선다

미국 맨해튼에서 공연하는 테일러 스위프트./로이터=연합뉴스

조 바이든 미국 행정부가 기업들에 ‘딥페이크’를 이용한 음란물 제작·확산을 막고 관련 유통 시장을 폐쇄하도록 압박했다. 딥페이크는 인공지능(AI)을 기반으로 영상과 이미지를 합성하는 기술로, 최근 유명 연예인들이 음란물 합성 사진으로 피해를 받을 뿐 아니라 이른바 ‘서울대 n번방’처럼 사회적 이슈가 되고 있다.

23일 AP통신에 따르면 백악관은 23일 AI 개발자, 금융 기관, 클라우드컴퓨팅 업체 등에 딥페이크 음란물을 통한 수익 창출을 막고 노골적인 이미지를 광고하는 사이트 결제를 제한할 것을 요구하는 내용을 담은 공문을 보냈다. AP통신은 “구글과 애플 등 모바일 애플리케이션(앱) 스토어를 관리하는 ‘게이트키퍼’에게도 딥페이크 음란물 생성과 확산을 막을 수 있는 일련의 조처를 요구했다”고 했다.

AI 기술이 발달하면서 누구나 쉽게 딥페이크를 만들 수 있게 됐다. 딥페이크로 만들어진 음란물은 소셜미디어로 공유돼 피해를 막기 쉽지 않다. 지난 1월 말에는 테일러 스위프트의 얼굴 사진을 합성한 악의적인 딥페이크 음란물이 온라인에 유포되기도 했다. 최근 서울대 졸업생 2명이 동문을 포함해 수십명의 사진으로 불법 음란 합성물을 제작해 유포한 이른바 ‘서울대 N번방 사건’도 대표적인 사례다. 유명인뿐 아니라 일반인들도 피해자가 되는 것이다.

아라티 프라바카르 미 백악관 과학기술정책실장은 AP에 “주로 여성과 소녀를 대상으로 한, 합의되지 않은 이미지가 경이적인 속도로 만들어지는 걸 목격하고 있다”며 “가장 시급한 대처 방안은 기업들이 나서는 것”이라고 말했다.