[태원준 칼럼] 딥페이크 막아내려면

'쥐와 고양이의 술래잡기' 같은
딥페이크 유포-차단 기술 경쟁
막는 쪽이 뒤쫓아가는 신세여서
불리할 수밖에 없는 싸움

정책·규제·교육이 가세해야
비로소 싸워볼 만하기에
美·中·유럽 이미 규제법 제정
정치적 대응에 뛰어들었는데

아직 AI 기본법도 못 만든 韓
'디지털 음란물 진원지' 오명
국민은 이번에도
무능한 정치의 피해자가 됐다

딥페이크란 말은 2017년 12월 미국 온라인 커뮤니티 레딧에서 처음 등장했다. 우리로 치면 디시인사이드 같은 사이트에서 ‘deepfakes’란 아이디를 쓰는 사람이 음란 영상에 할리우드 여배우 얼굴을 합성해 올리기 시작했다. 갤 가돗(영화 ‘원더우먼’ 주인공) 같은 배우의 사진을 인터넷에서 수천장씩 가져다 인공지능(AI)을 훈련시켰고, 그렇게 만들어낸 영상이 놀랍도록 정교해 입소문이 났다. 이를 보려는 이들이 몰려들면서 그의 아이디는 그런 영상을 일컫는 용어가 됐다.

그는 프로그래머였다. 구글이 개발자들에게 공개한 머신러닝 도구와 오픈소스 코드를 이용해 딥페이크 알고리즘을 만들었다고 한다. 집에 있는 컴퓨터로 혼자서 몇 시간 만에 저런 영상을 제작하곤 했는데, 이듬해 1월 ‘페이크앱’이라는 데스크톱 애플리케이션이 출현했다. 그의 알고리즘을 응용해 다른 레딧 회원이 개발한 이 앱은 프로그래머가 아니어도 누구나 합성 영상을 만들 수 있게 간편화한 소프트웨어였다. 딥페이크란 용어가 생겨난 지 불과 한 달 만에 ‘대중화’의 막이 오른 것이다.

페이크앱 다운로드는 1월이 가기 전에 10만 건을 돌파했다. 딥페이크를 만드는 이들이 폭증하면서 여배우가 아닌 평범한 여성의 얼굴이 합성되기 시작했다. 헤어진 연인을 욕보이는 딥페이크 리벤지 포르노가 처음 유포된 것도 이 무렵이다. 레딧에서 영상을 공유하며 낄낄대던 이들은 다른 SNS로 영역을 넓혀갔고, 딥페이크 앱도 빠르게 진화했다. 성능과 편의성에서 페이크앱을 압도하는 페이스스왑, 딥페이스랩, 딥페이크웹이 차례로 나오더니 2020년 모바일 앱까지 등장했다. 휴대전화로 뚝딱 딥페이크를 만드는 세상이 열렸다.

딥페이크의 확산은 이렇게 음란물을 매개로 이뤄졌지만, 그 대응은 미국 국방부가 제일 빨랐다. 눈에 보이는 것을 믿을 수 없게 된 시대에, 만약 핵무기 발사 준비를 지시하는 푸틴의 영상이 입수된다면? 진위를 가려줄 딥페이크 판별 기술이 필요했던 펜타곤은 막대한 자금을 풀었다. 그 돈으로 많은 대학과 기업 연구진의 반격, 그러니까 딥페이크를 잡아내는 연구가 시작됐다.

2018년 뉴욕주립대 연구팀은 딥페이크 합성 인물의 어색한 눈 깜박임(사람들이 눈 감은 사진은 SNS에 잘 올리지 않으니 AI가 그런 표정을 충분히 학습하지 못해 나타났던 결함)에 착안해 판독 기법을 개발했다. 그 보고서를 한창 쓰고 있을 때 어디선가 익명의 이메일이 날아들었고, 거기에 눈 깜박임을 완벽하게 처리한 딥페이크 영상이 조롱하듯 첨부돼 있었다고 한다. 딥페이크를 만드는 쪽과 잡아내는 쪽의 기술 경쟁은 줄곧 이런 식이었다. 종종 ‘쥐와 고양이의 술래잡기’에 비유된다. 쥐를 쫓는 고양이가 발톱을 치켜들면 어느새 도주로를 찾아낸 쥐가 냉큼 달아나버리는.

그래도 딥페이크를 악용한 음란물·가짜뉴스·사기행각을 막아야 했기에 연구는 계속됐고, 꽤 신뢰할 만한 판독 기술이 여럿 만들어졌다. 혈류에 따른 얼굴의 미세한 변화를 감지해 영상의 진위를 식별하는 페이크캐처 시스템 등 대여섯 가지가 꼽힌다. 아이러니하게도 이런 기술은 전부 AI를 활용해 개발됐다. AI의 딥페이크를 잡아내려 AI에 의존하는 역설은 엄연한 현실이 됐다.

지금 한국 사회가 당면한 딥페이크 음란물은 판독보다 제작과 유포를 막는 것이 시급하다. 아직 상용화 전이지만, 이를 위한 기술도 몇 가지 나와 있다. 예를 들어 매사추세츠공과대학에서 개발한 포토가드는 우리가 인터넷에 올리는 이미지의 픽셀을 변조하는 기술이다. 육안은 그것을 식별할 수 없어서, 여배우 사진에 포토가드를 적용하면 사람 눈에는 여배우로 보이지만 AI는 고양이 등 엉뚱한 걸로 인식하게 만들어 딥페이크용 AI 학습을 봉쇄할 수 있다.

이렇게 잡아내고 차단하는 기술은 현존하는 딥페이크 기법을 토대로 개발되기에 영원한 추격자일 수밖에 없다. 딥페이크와 싸우는 연구자들은 “일거에 제압할 은색 탄환은 없다”고 말한다. 기술적 대응에 정책과 규제와 인식 교육이 맞물려야 비로소 해볼 만한 싸움이 된다는 것이다. 그런 정치적 노력이 각국에서 이미 시작됐다. 미국 유럽 중국 모두 규제법을 제정했고, 유럽은 텔레그램 창업자를 체포하며 실행에 나서고 있다. 아직 AI 기본법도 만들지 못해 그 전선에서 낙오해가는 한국이 ‘딥페이크 음란물 지원지’란 오명을 썼다. 우연이 아닐 것이다.

태원준 논설위원 wjtae@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지