[황보현우의 AI시대] 〈14〉딥페이크, 더이상 방치해선 안된다

황보현우 홍콩과기대(HKUST) 겸임교수·전 하나금융지주 그룹데이터총괄

최근 딥페이크(deepfake)를 둘러싼 사회적 논란이 거세다. 인공지능(AI) 기술에 기반한 딥페이크 영상의 확산 속도가 빠르고, 중고등학생이 만든 딥페이크 영상에 동료 학생과 교사가 피해자로 등장하기 때문이다.

가해자들이 사회관계망서비스(SNS)에 게시된 일반인의 사진을 음란물에 합성하고, 유포하면서 불특정 다수가 자신도 모르는 새 피해자가 되고 있다. 딥페이크의 피해자는 연예인과 유명인에 그치지 않고, 평범한 일반인과 미성년자에까지 확산되는 추세다.

2019년 사회적 이슈가 되었던 'N번방 사건'이 특정 가해자가 일부 피해자를 성적으로 착취한 사건이었다면, 최근 딥페이크 이슈는 누구든 쉽게 가해자가 되고, 우리 주변의 모든 사람이 피해자가 될 수 있다는 점에서 훨씬 심각한 사안이다.

딥페이크라는 용어는 2017년 미국의 커뮤니티 사이트인 레딧(Reddit)에서 딥페이크스(deepfakes)라는 ID를 가진 사용자가 영화 '원더우먼'의 주연 배우 갤 가돗(Gal Gadot)의 얼굴을 포르노 배우에 합성한 동영상을 게재한 데서 유래한다.

당시만 해도 이런 영상 편집은 AI 기술을 이해하고, 프로그래밍을 다룰 수 있는 전문가의 영역이었다. 하지만 이제 컴퓨터 프로그래밍을 전혀 모르는 일반인도 생성형 AI 도구를 활용해 단 몇 번의 클릭만으로 딥페이크 영상을 만들어 내는 시대가 되었다.

경찰청에 따르면 2023년 딥페이크 성범죄 피의자의 76%가 10대일 정도로 청소년들에게 딥페이크는 하나의 장난이자 놀이문화로 자리잡았다. 얼마 전엔 서울대 졸업생이 동문 후배의 얼굴을 합성한 음란물을 제작, 유포해 파장을 일으킨 '서울대 딥페이크' 사건이 우리를 놀라게 했다.

딥페이크로 인한 사회적 문제는 가짜 음란물 제작에 그치지 않는다. AI 기술에 기반한 딥페이크는 보이스피싱, 가짜 뉴스, 저작권 침해 등으로 피해자를 확산시키고 있다. 올해 초 홍콩의 금융회사에서는 딥페이크로 만들어진 가짜 최고재무책임자(CFO)와의 화상회의에 속아 340억원의 손해가 발생했으며, 작년 제주도에서는 음성 변조 앱을 이용해 딥보이스를 만들어낸 지능형 보이스피싱범이 체포되기도 했다.

이처럼 보편화되고 있는 딥페이크의 부작용을 최소화하기 위해 정부와 기업이 힘을 합쳐 기술, 법·제도, 교육을 망라한 체계적인 대응책을 수립해야 한다.

먼저 우리는 딥페이크를 걸러내기 위한 기술적 노력에 주목해야 한다. AI로 만들어낸 영상은 눈 깜박임, 대화 시 입 모양 등에서 부자연스러움이 노출되기 때문에 이를 검출하는 AI 알고리즘을 만들어 낼 수 있다. 또 영상 제작 단계부터 가짜 콘텐츠를 식별할 수 있도록 워터마크(watermark) 삽입을 제도화하는 방안도 실시되고 있다. 실제 오픈AI, 구글, 메타와 같은 빅테크 기업들이 이미지 제작 단계에서 워터마크 생성을 의무화하고 있다.

그러나 '백 명의 경찰이 한 명의 도둑을 잡지 못한다'는 공자의 말씀처럼 기술을 악용하고자 시도하는 사람이 있는 한, 이를 기술적으로 방지하는 것은 어렵다. 따라서 법·제도적인 차원의 딥페이크 방지책이 요구된다.

딥페이크가 사회적 문제로 대두되자 국회에서는 지난 한 달간 30건 이상의 '딥페이크 방지법안'이 발의되었다. '정보통신망 이용촉진 및 정보보호 등에 관한 법률'(정보통신망법), '성폭력범죄의 처벌 등에 관한 특례법'(성폭력 특별법) 등의 개정을 통해 가해자 처벌과 피해자 지원을 강화하는 내용이 골자를 이루고 있다.

우리는 이 시점에서 해외 선진국의 대응을 살펴볼 필요가 있다. 미국에서는 캘리포니아를 비롯한 27개 주에서 빅테크 기업에게 유해 콘텐츠 삭제 의무를 부여하는 딥페이크 규제 법안을 실시하고 있다. 유럽연합(EU)은 디지털 서비스법(Digital Service Act:DSA)을 통해 디지털 플랫폼 기업이 사회적 안전을 위협하는 콘텐츠를 유통하지 못하도록 제도화하고 있다. 프랑스가 최근 텔레그램 창업자인 파벨 두로프(Pavel Durov)를 체포한 것도 미성년자 성착취물을 비롯한 유해 콘텐츠 유통을 금지한 법률에 근거한 조치다.

우리나라에서도 국내외 빅테크 사업자에게 딥페이크 영상을 포함한 유해 콘텐츠 삭제를 의무화하는 사회적 책임을 부과해야 한다. 현재는 국내에 대리인이나 사무소가 없는 해외법인에게 유해 콘텐츠 삭제를 요청할 수 있는 법적 근거가 없다. 더불어 아동 성범죄로 한정된 디지털 위장 수사의 범위를 성인에까지 확대하는 것도 요구된다.

하지만 무엇보다 중요한 것은 규제가 아니라 AI에 대한 기본 소양 교육을 통해 의식 전환을 유도하는 것이다. 정부와 학교가 학생들에게 아무런 소양 교육 없이 AI기술에 노출되도록 방치하는 것은 직무유기에 가깝다. 이제 의식 있는 어른들이 앞장서 AI 윤리의 중요성을 전파할 때다.

황보현우 홍콩과기대(HKUST) 겸임교수·전 하나금융지주 그룹데이터총괄