성소수자에 폭언 퍼붓는 바이든?…대선 앞둔 미국, AI딥페이크 극성

민주당 소속 힐러리는 “사실 디샌티스 좋아해”
유권자들 기술 발달로 진위 판별 어려울 수도

조 바이든 미국 대통령이 워싱턴DC 알링턴 국립묘지에서 열린 현충일 헌화식에서 연설하고 있다. 로이터연합뉴스

“나는 사실 론 디샌티스를 좋아한다. 그는 이 나라에 필요한 사람이다”

민주당 소속 힐러리 클린턴 전 미국 국무장관이 온라인 영상을 통해 공화당 대선 후보 출마를 선언한 디샌티스 플로리다 주지사에 대해 깜짝 지지 선언을 했다.

온라인에서 확산된 이 영상은 사실 인공지능(AI) 딥페이크 기술로 만들어진 가짜 영상이었다. 또 다른 딥페이크 영상에서는 조 바이든 대통령이 트랜스젠더 여성을 향해 “당신은 결코 진짜 여자가 될 수 없다”고 폭언을 퍼붓는 모습이 담겼다. 다가오는 미국 대선을 앞두고 조작된 딥페이크 영상이 온라인에서 활개를 치고 있다고 로이터통신이 30일(현지시간) 보도했다.

최근 AI 기술이 더욱 고도화되면서 이미지나 영상‧음성의 진위를 판별하는 게 더욱 어려워지고 있고, 이전과 비교할 수 없을 정도로 그 양도 훨씬 증가하고 있다. 특히 미국이 내년 대통령 선거를 앞둔 만큼 AI가 여론을 조작하는 데 활용될 수 있다는 우려가 제기되고 있다.

글로벌 싱크탱크인 브루킹스연구소의 수석 연구원 대럴 웨스트는 “유권자들이 진짜와 가짜를 구별하는 것은 매우 어려울 것”이라며 “트럼프나 바이든 지지자들이 이 기술을 이용해 상대를 더 나빠 보이게 하는 걸 상상해보라”고 말했다.

I’m told this is real… it seems real and it’s surprisingly honest and accurate for CNN… but who knows these days. #cnnpic.twitter.com/J0YCuX13Od

— Donald Trump Jr. (@DonaldJTrumpJr) May 11, 2023

딥페이크 영상을 유포하는 사람은 일부 극성 지지자만이 아니다. 도널드 트럼프 전 대통령은 이달 초 자신이 만든 소셜미디어인 트루스소셜에 앤더슨 쿠퍼 CNN 앵커가 자신에 대해 비판하는 영상을 공유하기도 했다.

그러나 쿠퍼의 입술 움직임은 음성과 정확히 일치하지 않았다. CNN은 해당 영상이 진짜가 아닌 조작된 딥페이크 영상이라고 밝혔다. 이 영상은 아직도 트럼프 전 대통령의 아들 도널드 트럼프 주니어의 트위터 계정에서 공유되고 있다. 트위터는 해당 게시물 밑에 이 영상은 CNN에서 방송된 것이 아니라 편집된 영상이라는 경고 문구를 띄웠다.

트위터를 비롯해 페이스북, 유튜브 등 사회관계망서비스(SNS) 플랫폼들이 AI로 조작된 게시물을 단속하기 위해 노력하고 있지만 모든 게시물을 일일이 차단하는 것은 사실상 불가능하다. AI 플랫폼 회사 딥미디어는 올해 전 세계적으로 50만 개의 딥페이크 영상과 음성이 공유될 것으로 추정하고 있다.

특히 다가오는 미 대선을 앞두고 선거 과정에서 악용될 수 있다는 우려에 일부 AI 소프트웨어는 공인의 이미지 생성을 원천 금지하는 등의 조치를 취하고 있다. 오픈AI의 이미지 생성 소프트웨어 DALL-E는 현재 바이든 대통령과 트럼프 전 대통령의 이미지를 만드는 것을 자체적으로 차단하고 있다. 그러나 마이크 펜스 전 부통령을 비롯해 내년 대선 출마를 고려하고 있는 다른 정치인들의 이미지는 여전히 만들 수 있는 등 한계가 있다고 로이터통신은 보도했다.

얼마 전 미국 의회에서 처음으로 AI에 대한 청문회가 열리는 등 정치권에서 AI 오용에 대한 우려가 확산하고 규제 움직임이 나오는 가운데도 일부 정치인들은 AI를 활용한 캠페인을 벌이고 있다. 미국 공화당은 AI가 생성한 이미지를 활용해 지난달 공식 SNS 계정에 바이든 대통령이 재선에 성공할 경우, 중국이 대만을 침공하고 샌프란시스코가 범죄로 폐쇄되는 대격변 시나리오를 암시하는 30초짜리 영상을 업로드했다.

NIGHTMARE: What if Joe Biden, the weakest president we’ve ever had, is re-elected? pic.twitter.com/b5HvY9GEr0

— GOP (@GOP) April 25, 2023

최서은 기자 cielo@kyunghyang.com