美 대선 위협하는 AI…딥페이크 영상 올린 트럼프

“많은 분이 깊은 분노와 실망을 표현했다. 예상대로 그 남자, 미국 대통령은 거짓말을 계속했다.” 미국 CNN의 간판 앵커인 앤더슨 쿠퍼의 말이 끝나자 조 바이든 대통령이 코로나19 백신에 대해 연설하는 장면이 나왔다. 바이든 대통령 발언이 끝나자 쿠퍼는 “당신은 분노하고 화낼 권리가 있고, 다시는 이를 시청하지 않을 권리가 있다”고 말한다.

도널드 트럼프 전 대통령이 자신의 소셜미디어 트루스소셜에 올린 49초 분량의 동영상이다. AP통신은 이 동영상이 인공지능(AI) 음성복제 도구로 생성됐다고 14일(현지시간) 보도했다. 해당 영상은 쿠퍼가 지난주 CNN 주최 행사에 나온 트럼프 전 대통령을 비판한 발언을 교묘하게 짜깁기 한 것이다.

미국 대선이 가까워져 오면서 AI에 의한 선거 방해 우려가 커지고 있다. 생성형 AI와 딥페이크 기술의 발전으로 가짜 뉴스가 쉽게 생성될 수 있고, 중국 등 적대국의 선거 개입 가능성도 커졌다는 지적이다.

AP통신은 “정교한 생성형 AI 도구는 이제 최소 비용으로 사람의 목소리와 이미지를 복제해 초현실적인 이미지와 비디오, 오디오를 몇 초 만에 만들 수 있다”며 “AI가 유권자를 오도하는 위협으로 2024년 대선 때 정치적 위험을 초래할 수 있다”고 보도했다.

AP에 따르면 이미 온라인에는 바이든 대통령이 트랜스젠더를 공격하는 연설을 하는 것처럼 보이는 조작된 비디오가 퍼지고 있다. 지난 3월 트럼프 전 대통령이 뉴욕 맨해튼에서 기소될 때 경찰관들에 체포되는 듯한 사진과 머그샷 등이 온라인에 확산했지만 모두 가짜였다.

백악관은 지난 4일 카멀라 해리스 부통령 주재로 AI 업계 CEO들과 AI 규제 회의를 열었는데, 이때 참석자들은 “2024년 선거를 앞두고 매우 설득력 있고 조작적인 가짜 동영상과 이야기가 폭발적으로 증가할 것”이라고 경고했다고 악시오스가 보도했다.

AI를 활용한 선거 방해 공작은 이번 튀르키예 대선에도 등장한 것으로 나타났다. 폭스뉴스는 “튀르키예 대선에서 공화인민당(CHP) 케말 클르츠다로을루 대표는 러시아가 딥페이크와 AI 도구를 활용해 선거에 개입하고 있다고 비난했다”며 “지난 몇 주 동안 러시아 봇 계정 등을 통해 레제프 타이이프 에르도안 대통령을 지지하는 허위 정보 캠페인이 시작됐다”고 전했다. 실제 튀르키예 매체 테이트는 이미 150개가 넘는 선거 관련 가짜뉴스를 판별했는데, 대부분이 후보자를 비난하는 딥페이크 자료에 근거한 것으로 조사됐다.

민주당 소속 이베트 클라크 상원의원은 이달 초 정치광고를 낼 때 AI를 사용해 만들었는지를 표기하도록 하는 법안을 발의했다. 클라크 의원은 “AI는 사람을 속일 수 있고, 속는 데에는 1초도 걸리지 않는다. 바쁜 유권자들은 모든 정보를 확인할 시간이 없다”며 “AI가 무기화되면 정치 시즌에 극도로 치명적일 수 있다”고 말했다.

피트 리케츠 공화당 상원의원도 “친중국 단체가 AI 딥페이크 기술을 사용해 온라인에서 광범위한 선전 활동을 벌인 것으로 조사됐다”며 “2024년 선거에서도 그들은 (대선에 개입하기 위해) 그렇게 할 가능성이 크다. 경계해야 한다”고 말했다.

워싱턴=전웅빈 특파원 imung@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지