[시사기획 창] 딥페이크 실험…판별률 7%의 의미는?

KBS 특집 다큐 "자신있나? 속지않을? 딥페이크!"

사람들이 물었다. 이렇게 제목을 달아도 되는 거냐고? 그런데 그럴 수 밖에 없었다. 취재 과정에서 접한 딥페이크 영상들은 알고 봐도 고개를 끄덕일 수 밖에 없어서...

■ 일주일 동안 100만 회 학습한 딥페이크

딥페이크, 언제부터인가 곧잘 들리는 단어다. AI에 의한 '딥러닝(DeepLearning)'과 가짜라는 의미의 '페이크(Fake)'의 합성어이다. 글자 그대로 AI로 누군가의 얼굴을 학습해 영상에서 바꿔치기 해 버린다는 말이다.

성적 영상에 다른 사람의 얼굴을 합성하는 것으로부터 시작된 이 기술은 AI의 고도화와 더불어 점점 정밀도를 더해갔다. 다큐프로그램에 사용할 딥페이크를 만드는 과정에서 담당 직원은 AI로 한 사람의 얼굴을 학습하는 정도를 "100만 회"라고 말했다.

인물의 영상을 4천 여 장의 사진으로 나누고, 그 세밀한 변화를 일주일 동안 100만 회 가량 자동 학습 시켜 딥페이크를 만든다는 이야기다.

그래서 나올 수 밖에 없는 이야기가 "이러면 속을 수 밖에 없잖아"이다.

■ 딥페이크 모두 맞춘 학생은 고작 7%

실제 대학생들을 대상으로 실험한 결과도 비슷했다. 6개의 인물 영상에 4개의 딥페이크물을 섞어 가짜 인물을 골라달라고 했는데, 39명 가운데 딥페이크 인물 4개 모두를 골라낸 사람은 불과 3명에 불과했다. 그것도 이 중에 가짜가 있다는 것을 알고 집중해서 본 결과다.

"의식하지 않고 유튜브에서 보게 되면 아마 찾기 어려울 것 같아요. 진짜인지 가짜인지 의미를 두지 않고 보게 되니까"

■ 속지 않을 수 없다. 하지만 속아서는 안된다.

올해는 전 세계 주요 국가의 선거가 몰려 있는 슈퍼 선거의 해다. 76개국 42억 명이 선거를 치르는 걸로 추산된다. 그리고 그 선거 논란의 한복판에 '딥페이크'가 자리잡고 있다.

이미 튀르키예, 슬로바키아 등의 선거에서는 선거 막판 딥페이크 물이 선거 결과에 막대한 영향을 끼쳤다는 분석이 나오고 있다. 미국 대선에서는 바이든과 트럼프 등을 대상으로 한 딥페이크물이 심심치 않게 나돌고 있다. 얼굴 뿐 아니라 목소리까지 똑같다.

"너무나 그럴 듯하고, 그럼 내 생각이 맞았구나라고 이것들을 더 쉽게 전파할 수 있게 되는 거죠.(오세욱 언론진흥재단 책임연구원)"

올바른 한 표를 위해 더욱 유의해야할 속아서는 안되는'딥페이크'. KBS특집 다큐를 통해 그 실상과 위협을 만나볼 수 있다.

취재기자: 이승철
촬영기자: 신봉승
영상편집: 안영아, 차인희
자료조사: 이재승, 황현비
조연출: 최명호

방송예정일: 2024년 4월 2일(화) 밤 10시 5분 KBS 1TV/ 유튜브

#선거 #딥페이크 #총선 #AI #딥페이크실험 #410총선 #바이든 #트럼프 #유튜브

'시사기획 창' 홈페이지 https://news.kbs.co.kr/vod/program.do?bcd=0039&ref=pSiteMap
유튜브 https://www.youtube.com/channel/UCEb31RoX5RnfYENmnyokN8A
페이스북 https://www.facebook.com/changkbs
WAVVE '시사기획 창' 검색

■ 제보하기
▷ 전화 : 02-781-1234, 4444
▷ 이메일 : kbs1234@kbs.co.kr
▷ 카카오톡 : 'KBS제보' 검색, 채널 추가
▷ 카카오 '마이뷰', 유튜브에서 KBS뉴스를 구독해주세요!

이승철 기자 (neost@kbs.co.kr)