AI로 “경선 포기·야당 지지” 가짜 영상… 선거 앞둔 전세계 비상

빌 게이츠 “AI가 민주주의 위협”

지난 3월 유포된 트럼프 전 대통령이 수갑차고 경찰에 연행되는 가짜사진

지난 2일(현지 시각) 한 유튜브 계정에 공화당 유력 대선 후보로 거론되는 론 디샌티스 플로리다 주지사 영상이 올라왔다. 디샌티스 주지사가 집무실에서 “대선 경선을 포기하겠다”고 선언하는 내용이었다. 이 영상은 도널드 트럼프 전 대통령이 ‘디샌티스가 경선을 포기할 것이라는 루머가 돌고 있다’고 언급한 지 5일 만에 나오면서 SNS(소셜미디어)를 중심으로 빠르게 퍼져나갔다. 하지만 이는 인공지능(AI)으로 만든 ‘딥페이크(가짜) 영상’이었다.

내년 총선을 앞둔 한국을 비롯해 주요 국가의 선거에서 AI발(發) ‘가짜 뉴스’가 심각한 위협으로 부상하고 있다. 누구나 AI를 활용해 뉴스 형태 글은 물론 문건, 목소리, 비디오까지 가짜 콘텐츠를 손쉽게 생성하고 유통할 수 있게 되면서 선거에 결정적인 영향을 미칠 수 있다는 우려가 높아지고 있다. AI 콘텐츠 탐지 기술은 급속한 AI 기술의 발전을 따라잡지 못하고 있다. 여론 조작과 선동에 전 세계 정치권과 유권자들이 무방비로 노출돼 있는 것이다. 빌 게이츠 마이크로소프트 창업자는 7월 “AI가 가짜 뉴스와 잘못된 정보를 대량으로 유포시켜 선거와 민주주의에 악영향을 미칠 것”이라고 했다.

◇선거 앞두고 판치는 AI 가짜 뉴스

지난 2월 미국 시카고 시장 민주당 경선을 하루 앞두고 트위터에선 ‘시카고 레이크프런트 뉴스’라는 신생 계정에 올라온 음성 파일이 퍼지기 시작했다. 후보인 폴 발라스가 ‘경찰이 용의자 수십 명을 죽여도 아무도 눈 깜짝하지 않던 시절이 그립다’고 말하는 내용이었다. 여론조사에서 앞서던 발라스는 폭력 경찰 옹호 이미지가 퍼지면서 경선에서 패했다.

그래픽=이철원

5월 치러진 튀르키예 대선도 딥페이크 영상이 뒤흔들었다. 3선에 도전한 에드로안 대통령과 야당 후보인 케말 클르츠다로을루가 접전을 벌이는 가운데, 테러 단체가 클르츠다로을루를 지지한다는 가짜 영상이 퍼졌다. 실제로는 여러 영상을 교묘하게 짜깁기한 딥페이크였다. 하지만 ‘야당 후보가 테러 단체의 지지를 받았다’는 인식이 확산하면서 에르도안이 5%p 차로 승리했다. 누군가 의도를 갖고 선거 결과를 바꾸는 데 하루이틀이면 충분했다는 것이다.

3월 트럼프 전 대통령이 경찰에 체포되는 장면, 5월 미 국방부(펜타곤)가 화재에 휩싸인 모습 등 AI 가짜 콘텐츠는 유포될 때마다 큰 사회적 파장을 낳았다. 주식시장이 출렁이거나 정치인 지지율이 급변하는 일도 반복됐다. 사람들이 AI 콘텐츠를 의심하지 않고 일단 믿는다는 증거다. 안준모 고려대 교수는 “선거가 다가올수록 정치 관련 콘텐츠와 이슈에 대한 사람들의 관심이 높아진다”면서 “AI 가짜 뉴스로 광고 수익을 올리는 업체들까지 등장하고 있어, 앞으로 더 심각한 문제가 될 수 있다”고 했다.

항복 선언하는 젤렌스키 가짜 동영상 - 지난해 3월 젤렌스키 우크라이나 대통령이 러시아에 항복한다고 발표하는 가짜 영상. /맨디언트

◇아직 정확도 떨어지는 탐지 기술

각국 정부와 기업들은 딥페이크 기술 대책 마련에 서두르고 있다. 챗GPT를 개발한 오픈AI는 생성형 AI를 감지하는 ‘클래시파이어’를 출시했다. 특정 글을 입력하면 AI가 썼을 가능성이 얼마나 되는지 알려준다. 인텔은 영상 속 사람 얼굴의 핏줄을 보고 진짜인지를 가려내는 탐지 기술 ‘페이크캐처’를 개발했다.

문제는 정교한 조작 기술에 비해 아직 이를 잡아내는 탐지 능력은 떨어진다는 점이다. 딥페이크 탐지 기술의 정확도는 아직 70%를 밑도는 수준이고, 조작 흔적을 찾을 수 있는 ‘디지털 포렌식’ 전문가도 부족하다. 미국과 유럽 등에서는 AI를 이용해 만들어낸 콘텐츠에 ‘AI가 만들었다’는 식별 표시(워터마크)를 부착하는 규제 도입을 추진하고 있지만, 불순한 목적을 가진 사람이나 세력은 얼마든지 이를 피할 수 있는 것이 현실이다.