한동훈 영상, 탐지 5분 만에 가짜판정… 총선 앞 ‘딥페이크’ 비상

국민일보, AI 기업에 의뢰해 변조 확인
유튜브에 선거용 조작 영상 속속
탐지 기술 미비… 적발·단속 난항

국내 생성형 인공지능 기업 ‘딥브레인AI’가 25일 한동훈 국민의힘 비상대책위원장 관련 한 유튜브 영상(왼쪽)을 판독해보니 딥페이크에 의해 조작된 영상이라는 결과가 나왔다. 영상 판독 과정을 담은 이미지. 딥브레인AI 제공

“66.84% 조작된 영상입니다.”

최근 한 유튜브 채널에 한동훈 국민의힘 비상대책위원장의 기자회견 발언 영상이 올라왔다. 영상에서 한 위원장은 김건희 여사의 명품가방 수수 논란을 놓고 “조폭들이나 할법한 짓을 벌인 범죄자 뒤에 누가 있겠느냐”고 말한다. 김 여사에게 가방을 건넨 최재영 목사의 배후 세력이 있다는 취지였다.

국민일보가 25일 국내 생성형 인공지능(AI) 기업 ‘딥브레인AI’에 의뢰한 결과 해당 영상은 딥페이크 기술로 조작된 영상이었다. 딥브레인AI 관계자가 1분 분량의 영상 파일을 서버에 올리자 5분여 만에 ‘페이크(가짜)’라는 빨간색 문구가 모니터에 떴다. 탐지 결과 특정인의 얼굴로 교체하는 ‘페이스 스와프’와 목소리를 만들어내는 ‘립싱크’ 기술이 영상에 활용된 것으로 나타났다. 전체 평균 변조 확률도 기준치인 50%를 넘어섰다.

이 유튜브 채널에는 이재명 더불어민주당 대표가 흉기 피습 사건에 대해 “법으로 죽이고 안 되니 이젠 칼로 죽이려 하냐”는 육성이 담긴 영상도 올라와 있다. 탐지 결과 이는 ‘리얼(진짜)’로 판명됐다. 하지만 원본 영상을 미세하게 수정한 영상이었다. 실제 이 대표의 발언에서 어미와 억양 등을 누군가 교묘하게 바꿔 공격적인 느낌을 추가한 것이었다.

유튜브 채널을 비롯한 온라인 공간에 최근 딥페이크 기술을 악용한 선거용 조작 영상이 속속 올라오고 있다. 4월 총선을 앞두고 딥페이크 영상이 여론을 호도할 수 있다는 우려가 커지고 있다. 김명주 서울여대 정보보호학과장은 “조작 영상을 통해서라도 ‘일단 당선되고 보자’는 행위가 극심해질 우려가 있다”며 “조작 영상이 범람하면 유권자들이 진짜인지 가짜인지 판단 자체를 포기할 수 있다. 이는 민주주의의 근간이 흔들리는 것”이라고 말했다.

실제로 지난 2022년 지방선거를 앞두고 윤석열 대통령이 남해군수 후보를 지지하는 영상이 빠르게 SNS를 통해 퍼진 바 있다. 당시 한 열성 지지자가 AI로 만든 윤 대통령을 이용해 제작·유포했던 것으로 드러났다.

이번 총선에서는 딥페이크 영상을 활용한 선거운동이 금지된다. 적발 시 7년 이하 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처해진다. 지난 대선처럼 ‘AI 윤석열’ ‘AI 이재명’을 활용한 선거운동을 할 수 없다는 뜻이다.

중앙선거관리위원회는 지난 11일부터 AI 전문가와 모니터링 전담 요원 등으로 구성된 감별반을 운영하고 있다. 다만 실제 적발이나 단속이 쉽지 않을 전망이어서 실효성이 크지 않다는 지적이 나온다. 임종인 고려대 정보보호대학원 석좌교수는 “누군가가 외국 IP로 접속해 딥페이크 영상을 제작하거나 퍼뜨리면 수사가 쉽지 않다”며 “제작 도구가 모든 사람이 접근할 수 있는 오픈소스로 공개돼 있고, 다크웹이라는 암시장에서 거래가 되는 경우도 많아 단속은 사실상 불가능하다”고 우려했다.

정신영 김재환 기자 spirit@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지