딥페이크 등 AI 악용한 가짜뉴스, 美 대선 위협한다

격전지에선 가짜뉴스 확산 치명적
연방정부 차원 AI 규제법 늦어져
여러 주정부 각개 대응 나서는 중

지난해 3월 ‘트럼프가 오늘 아침 맨해튼에서 체포됐다’는 트윗과 함께 소셜미디어에서 확산됐던 인공지능(AI) 딥페이크 이미지. 엑스(옛 트위터) 캡처

미국 애리조나주 선거관리를 총괄하는 에이드리언 폰테스 주 국무장관은 최근 선거관리 관계자 200여명을 대상으로 이틀간 인공지능(AI)을 활용한 딥페이크 선거 대응 시뮬레이션 훈련을 했다. 딥페이크는 진짜처럼 합성한 이미지나 영상을 뜻한다. 폰테스 장관은 AI로 생성한 자신의 오디오와 영상을 보여주며 참가자들이 진실과 거짓을 가려내며 대응토록 했다. 언론 등을 통해 공개된 자신의 데이터를 바탕으로 딥페이크 영상을 만들었다는 폰테스 장관은 “AI 선거 사기를 주제로 한 최초의 선거 시뮬레이션”이라며 “나를 잘 아는 사람이 아니라면 영상에 담긴 반쪽짜리 진실을 알아차릴 수 없을 정도였다”고 말했다.

미 정치전문 매체 폴리티코는 “애리조나주의 AI 훈련은 전국의 선거관리자들이 생성형 AI의 급부상을 얼마나 우려하고 있는지를 보여주는 사례”라며 “특히 4년 전 조 바이든 대통령이 단 1만표 차이로 승리했던 애리조나주와 같은 격전지에서 두려움이 크다”고 전했다.

미국 대선이 다가오면서 AI 기술을 악용한 네거티브 선거운동이 대선 변수로 부상할 수 있다는 우려가 제기되고 있다. 박빙 승부가 예상되는 격전지의 경우 가짜뉴스 확산이 선거 결과에 결정적 영향을 미칠 수 있다는 것이다.

지난 30일(현지시간) 미국 시민단체 ‘퍼블릭 시티즌’에 따르면 선거 관련 AI 딥페이크 규제법이 마련된 곳은 텍사스·미시간·워싱턴·미네소타·일리노이 5개주뿐이다. 뉴욕·플로리다·위스콘신 등 8개주에선 관련 법안이 계류 중이거나 이제 막 발의된 상태다.

이들 주 법안은 콘텐츠 제작자에게 선거 관련 자료가 AI 기술로 제작됐다는 사실을 공개하도록 요구하는 내용을 담고 있다. 주 정부들이 각개 대응에 나선 것은 연방정부 차원의 규제가 늦어지고 있기 때문이다. 민주당 소속 에이미 클로부차 상원의원은 지난해 9월 딥페이크 규제 내용을 담은 ‘사기적 AI로부터의 선거 보호법’을 발의했지만 아직 의회 문턱을 넘지 못했다. 바이든 대통령은 지난해 10월 AI 행정명령을 통해 AI가 생성한 콘텐츠에 워터마크(식별표시)를 부착하고, 콘텐츠 출처를 확인하는 기술 표준을 마련하라고 상무부에 지시한 상태다.

정부 대응이 늦어지면서 선거 관련 가짜뉴스는 기하급수적으로 증가하고 있다. 미국의 가짜뉴스 추적 기관인 뉴스가드는 AI를 활용해 허위정보 콘텐츠를 만드는 웹사이트가 지난해 5월 49개에서 최근 614개로 급증했다고 밝혔다.

현지 매체 악시오스가 모닝컨설트와 공동 진행한 여론조사에서 응답자 10명 중 6명은 “AI가 퍼뜨린 잘못된 정보가 궁극적으로 2024년 대선 결과에 영향을 미칠 것”이라고 답했다.

전문가들은 극우 활동가 등 극단주의 세력이 투표율을 낮추기 위한 공격도 강화할 수 있다고 우려한다. 영국 싱크탱크 데모스의 소셜미디어분석센터 칼 밀러 책임자는 “지난 미국 대선 때 격전지에서 유권자들의 투표를 방해하기 위한 ‘루머 폭격’이 발생했다”며 ‘투표소에 총격 사건이 발생해 도로가 폐쇄됐다’ ‘대기 줄이 길어 6시간을 기다려야 하니 오지 말라’ 등의 가짜뉴스가 SNS에 쏟아졌다고 전했다.

카라 옹 웨일리 버지니아대 교수도 “지난 대선 때 극우 활동가들은 중서부 소수인종 지역 주민들이 투표하지 못하도록 수천통의 로보콜(자동녹음전화)을 준비했다”며 “유명인의 가짜 음성을 이용해 메시지를 더 신뢰성 있게 만들 수 있다”고 우려했다.

워싱턴=전웅빈 특파원 imung@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포금지