선거 앞둔 나라마다 ‘AI 가짜 뉴스’ 몸살

“美외교관들이 선거 개입·폭력”
방글라데시선 거짓 영상 돌아

내년 한국과 미국을 비롯해 세계 각국에서 대선, 총선을 앞두고 생성형 인공지능(AI)이 만들어내는 가짜 뉴스에 대한 경계가 높아지고 있다. 내년 1월 총선을 앞둔 방글라데시에선 이미 인공지능을 동원한 가짜 뉴스 선거 운동이 현실화됐다. 가짜·진짜 뉴스의 구분이 어려워진 상황에서 진짜 뉴스를 가짜 뉴스라고 우기는 정치인까지 등장했다.

13일(현지 시각) 파이낸셜타임스(FT)에 따르면 방글라데시 소셜미디어에서 AI가 생성한 앵커가 현 정권과 대립하는 미국을 비난하는 보도를 전하는 가짜 뉴스가 등장했다. 한 온라인 뉴스 매체가 지난 9월 X(옛 트위터)에 게시한 한 동영상에서도 AI로 만든 앵커가 폭동 장면을 보도하면서 미국 외교관들이 방글라데시 선거에 개입하고 폭력을 행사했다고 비난했다. 이 가짜 뉴스는 한 달에 24달러만 내면 AI로 아바타와 동영상을 제작해주는 AI 도구 ‘헤이젠’을 사용해 만들어졌다. 헤이젠은 실리콘밸리에 있는 한 스타트업이 개발했다.

방글라데시뿐만 아니라 세계 정계에서 AI 가짜 뉴스나 광고는 이미 골칫거리로 떠올랐다. 올 초 미국 공화당 전국위원회는 AI가 생성한 이미지를 사용해 조 바이든 대통령 치하의 암울한 미래를 묘사한 광고를 공개했다. 구글은 최근 니콜라스 마두로 베네수엘라 대통령 정권에 우호적인 허위 정보를 퍼뜨리기 위해 AI가 생성한 앵커를 등장시킨 유튜브 가짜 뉴스 계정 여러 개를 삭제했다.

정치인들이 생성 AI나 딥페이크에 대한 대중의 공포를 이용해 정보를 왜곡할 수 있다는 점도 위험 요소다. 최근 인도에서 한 정치인이 자신에게 불리한 녹취록이 공개되자 “AI로 만든 가짜”라고 대응했지만, 이 녹취록은 진짜였다는 것이 검증 과정에서 밝혀졌다. 정치인이 진짜 뉴스를 가리켜 딥페이크나 생성형 인공지능의 결과라고 주장하며 혼란을 조장할 수 있다는 것이다.

FT는 “전 세계가 직면한 도전 과제는 AI가 생성한 콘텐츠가 사람들이 진실이라고 믿는 것과 거짓이라고 믿는 것의 경계를 허물기 위해 어떻게 무기화되는지가 될 것”이라고 했다.