미 대선 ‘AI 딥페이크’ 주의보

힐러리 ‘디샌티스 지지’와
바이든 ‘트랜스젠더에 폭언’
조작된 영상 벌써부터 판쳐

첫 대선 유세 나선 디샌티스 2024년 미국 대선의 공화당 유력 후보인 론 디샌티스 플로리다 주지사가 30일(현지시간) 아이오와주 클라이브에서 열린 대선 출정식 도중 지지자들 앞에서 연설을 하고 있다. AFP연합뉴스

“나는 사실 론 디샌티스를 좋아한다. 그는 이 나라에 필요한 사람이다.”

민주당 소속 힐러리 클린턴 전 미국 국무장관이 온라인 영상을 통해 공화당 대선 후보 출마를 선언한 디샌티스 플로리다 주지사 깜짝 지지를 선언했다. 온라인에서 확산된 이 영상은 인공지능(AI) 딥페이크 기술로 만들어진 가짜 영상이었다. 또 다른 딥페이크 영상에서는 조 바이든 대통령이 트랜스젠더 여성을 향해 “당신은 결코 진짜 여자가 될 수 없다”고 폭언을 퍼붓는 모습이 담겼다. 내년 미 대선을 앞두고 조작된 딥페이크 영상이 온라인에서 활개를 치고 있다고 로이터통신이 30일(현지시간) 보도했다.

최근 AI 기술이 더욱 고도화되면서 이미지나 영상·음성의 진위를 판별하는 게 더욱 어려워지고 있고, 이전과 비교할 수 없을 정도로 그 양도 훨씬 증가하고 있다. 특히 미국이 내년 대통령 선거를 앞둔 만큼 AI가 여론을 조작하는 데 활용될 수 있다는 우려가 제기되고 있다. 싱크탱크인 브루킹스연구소의 수석 연구원 대럴 웨스트는 “유권자들이 진짜와 가짜를 구별하는 것은 매우 어려울 것”이라며 “트럼프나 바이든 지지자들이 이 기술을 이용해 상대를 더 나빠 보이게 하는 걸 상상해보라”고 말했다.

딥페이크 영상을 유포하는 사람은 일부 극성 지지자만이 아니다. 도널드 트럼프 전 대통령은 이달 초 자신이 만든 소셜미디어인 트루스소셜에 앤더슨 쿠퍼 CNN 앵커가 자신을 비판하는 영상을 공유했다. 그러나 쿠퍼의 입술 움직임은 음성과 일치하지 않았다. CNN은 해당 영상이 조작된 딥페이크 영상이라고 밝혔다. 이 영상은 아직도 트럼프 전 대통령의 아들 도널드 트럼프 주니어의 트위터 계정에서 공유되고 있다. 트위터는 해당 게시물 밑에 이 영상은 편집된 영상이라는 경고 문구를 띄웠다.

트위터 등 사회관계망서비스(SNS) 플랫폼들이 AI로 조작된 게시물을 단속하기 위해 노력하고 있지만 모든 게시물을 차단하는 것은 사실상 불가능하다. AI 플랫폼 회사 딥미디어는 올해 전 세계적으로 50만개의 딥페이크 영상과 음성이 공유될 것으로 추정하고 있다. 미 대선을 앞두고 선거 과정에서 악용될 수 있다는 우려에 일부 AI 소프트웨어는 공인의 이미지 생성을 원천 금지하는 등의 조치를 취하고 있다. 오픈AI의 이미지 생성 소프트웨어 DALL-E는 바이든 대통령과 트럼프 전 대통령의 이미지를 만드는 것을 자체적으로 차단하고 있다. 그러나 대선 출마를 고려하고 있는 다른 정치인들의 이미지는 여전히 만들 수 있는 등 한계가 있다고 로이터통신은 보도했다.

최서은 기자 cielo@kyunghyang.com