‘감쪽같은 AI’ 내년 美 대선에 영향 미치나 ‘우려’

음성복제 도구로 가짜 생성 가능
이미 온라인에 조작 영상 퍼지는 중

사진=AP연합뉴스

“많은 분이 깊은 분노와 실망을 표현했다. 예상대로 그 남자, 미국 대통령은 거짓말을 계속했다.”

CNN 간판 앵커인 앤더슨 쿠퍼의 말이 끝나자 조 바이든 대통령이 코로나19 백신에 대해 연설하는 장면이 나왔다. 발언이 끝나자 쿠퍼는 “당신은 분노하고 화낼 권리가 있다”고 말한다.

도널드 트럼프 전 대통령이 자신의 소셜미디어 트루스소셜에 올린 49초 분량의 동영상이다. AP통신은 이 동영상이 인공지능(AI) 음성복제 도구로 생성됐다고 14일(현지시간) 보도했다. 해당 영상은 쿠퍼가 지난주 CNN 주최 행사에 등장한 트럼프 전 대통령을 비판한 발언을 교묘하게 짜깁기한 것이다.

내년 미국 대선을 앞두고 AI에 의한 선거 방해 우려가 커지고 있다. 생성형 AI와 딥페이크 기술의 발전으로 가짜뉴스가 쉽게 생성될 수 있고, 중국 등 적대국의 선거 개입 가능성도 커졌다는 지적이다.

AP통신은 “정교한 생성형 AI 도구는 이제 최소 비용으로 사람의 목소리와 이미지를 복제해 초현실적인 이미지와 비디오, 오디오를 몇 초 만에 만들 수 있다”며 “AI의 유권자 오도로 2024년 대선 때 정치적 위험을 초래할 수 있다”고 보도했다.

AP에 따르면 이미 온라인에는 바이든 대통령이 트랜스젠더를 공격하는 연설을 하는 것처럼 보이는 조작된 영상이 퍼지고 있다. 지난 3월 트럼프 전 대통령이 맨해튼에서 기소될 때 경찰관들에게 체포되는 듯한 사진과 머그샷 등이 온라인에 확산했지만 모두 가짜였다.

백악관은 지난 4일 카멀라 해리스 부통령 주재로 AI 업계와 회의를 열었는데, 이때 참석자들은 “대선을 앞두고 매우 설득력 있고 조작적인 가짜 동영상과 이야기가 폭발적으로 증가할 것”이라고 경고했다고 악시오스가 보도했다.

AI를 활용한 선거 방해 공작은 15일 치러진 튀르키예 대선에서도 있었던 것으로 나타났다. 폭스뉴스는 “튀르키예 대선에서 공화인민당(CHP) 케말 클르츠다로을루 대표는 러시아가 딥페이크와 AI 도구를 활용해 선거에 개입하고 있다고 비난했다”며 “지난 몇 주 동안 러시아 봇 계정 등을 통해 레제프 타이이프 에르도안 대통령을 지지하는 허위 정보 캠페인이 시작됐다”고 전했다.

민주당 소속 이베트 클라크 상원의원은 이달 초 정치광고를 낼 때 AI를 사용했는지를 표기토록 하는 법안을 발의했다. 클라크 의원은 “바쁜 유권자들은 모든 정보를 확인할 시간이 없다”며 “AI가 무기화되면 정치 시즌에 극도로 치명적일 수 있다”고 말했다.

워싱턴=전웅빈 특파원 imung@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지