“루머 폭격이 쏟아진다”… AI 가짜뉴스, 美 대선 위협

도널드 트럼프 전 미국 대통령이 도망가는 모습이 담긴 인공지능(AI) 딥페이크 이미지. 엑스(X·전 트위터) 캡처

미국 애리조나주 선거관리를 총괄하는 에이드리언 폰테스 주 국무장관은 최근 선거 관리 관계자 200여 명을 대상으로 이틀간 인공지능(AI)을 활용한 딥페이크 선거 대응 시뮬레이션 훈련을 했다. 폰테스 장관은 AI로 생성한 자신의 오디오와 동영상 등을 보여주며 참가자들이 진실과 거짓을 찾아내며 대응토록 했다. 폰테스 장관은 언론 등을 통해 공개된 자신의 데이터를 바탕으로 AI 훈련을 시켰다고 한다.

폰테스 장관은 “AI 선거사기를 주제로 한 최초의 선거 시뮬레이션”이라며 “나를 잘 아는 사람이 아니라면 영상에 담긴 반쪽짜리 진실을 알아차릴 수 없을 정도였다”고 말했다.

폴리티코는 “애리조나주의 AI 가상 훈련은 전국의 선거 관리자들이 생성형 AI의 급부상을 얼마나 우려하고 있는지를 보여주는 사례”라며 “특히 4년 전 조 바이든 대통령이 단 1만 표 차이로 승리했던 애리조나주와 같은 격전지에서 두려움이 크다”고 설명했다.

미국 대선이 다가오면서 AI 기술을 악용한 네거티브 선거운동이 대선 변수로 부상할 수 있다는 우려가 제기되고 있다. 박빙 승부가 예상되는 격전지의 경우 가짜 뉴스 확산이 선거 결과에 결정적 영향을 미칠 수 있다는 것이다.

30일(현지시간) 미국 시민단체 ‘퍼블릭 시티즌’에 따르면 선거 관련 AI 딥페이크 규제 법안이 마련된 곳은 텍사스·미시간·워싱턴·미네소타·일리노이 등 5개 주뿐이다. 뉴욕·플로리다·위스콘신 등 8개 주에서는 관련 법안이 계류 중이거나 이제 막 발의된 상태다.

이들 주 법안은 대체로 콘텐츠 제작자에게 선거 관련 자료가 AI 기술로 제작되었음을 공개하도록 요구하는 내용을 담고 있다. 뉴햄프셔·사우스캐롤라이나·뉴저지주 법안은 선거 전 90일간 적용하는 반면 일리노이주 법안은 30일간만 제한하는 등 세부 내용은 차이가 있다. 대부분은 AI 콘텐츠를 활용하는 모든 선거 캠프 관련자에게 제한 사항을 뒀지만, 일부 지역은 후보자나 정당 등에만 이를 적용하기로 해 혼선 우려도 크다.

주 정부 차원의 각개 대응은 연방정부 차원의 규제가 늦어지고 있기 때문이다. 민주당 소속 에이미 클로부차 상원의원은 지난 9월 딥페이크 규제 등 내용을 담은 ‘사기적 AI로부터의 선거 보호법’을 발의했지만, 아직 의회 문턱을 넘지 못했다. 조 바이든 대통령은 지난 10월 AI 행정명령을 통해 AI가 생성한 콘텐츠에 워터마크(식별표시)를 부착하고, 콘텐츠 출처를 확인하는 기술 표준을 마련하라고 상무부에 지시한 상태다.

폴리티코는 “(연방정부 조치가 늦어지면서) 현재로서는 애리조나주와 같은 격전지 지역 공무원들이 자체적으로 문제를 해결하려고 노력하고 있다”고 지적했다.

정부 대응이 늦어지면서 선거 관련 가짜 뉴스는 기하급수적으로 증가하고 있다. 미국의 가짜뉴스 추적 기관인 뉴스가드는 AI를 활용해 허위정보 콘텐츠를 만드는 웹사이트가 지난 5월 49개에서 최근 614개로 급증했다고 밝혔다.

악시오스가 모닝컨설트와 공동 진행한 여론조사에서 응답자 10명 중 6명은 “AI가 퍼뜨린 잘못된 정보가 궁극적으로 2024년 대선 결과에 영향을 미칠 것”이라고 답했다.

전문가들은 극우 활동가 등 극단주의 세력들이 투표율을 낮추기 위한 공격도 강화할 수 있다고 우려했다. 영국 싱크탱크 데모스의 소셜미디어 분석센터 칼 밀러 책임자는 “(지난 대선에서) 미국 격전지 주에 유권자 투표를 방해하기 위한 ‘루머 폭격’이 발생했다”며 ‘투표소에 총격 사건이 발생해 도로가 폐쇄됐다’ ‘대기 줄이 길어 6시간을 기다려야 하니 오지 말라’ 등의 가짜 뉴스가 SNS에 쏟아졌다고 전했다.

카라 옹 웨일리 버지니아대 교수도 “지난 선거 때 극우 활동가들은 중서부 소수인종 지역 주민들이 투표하지 못하도록 수천 통의 로보 콜(자동녹음전화)를 준비했다”며 “정치인이나 유명인의 가짜 음성을 이용해 메시지를 더 신뢰성 있게 만들 수 있다”고 우려했다.

워싱턴=전웅빈 특파원 imung@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지