美중간선거 'AI 광고' 봇물…1천800억원 투입해 네거티브전

공화당측 80% 넘게 제작…"성경 훼손에 9·11 기념" 가짜뉴스 전파
규제 공백속 70%는 'AI생성 표기 생략'…"민주당은 '평판 위험'에 신중"

인공지능(AI) [로이터=연합뉴스 자료사진. 재판매 및 DB 금지]

(샌프란시스코=연합뉴스) 권영전 특파원 = 미국 중간선거를 앞두고 상대편을 비방하는 인공지능(AI) 조작 '딥페이크' 영상이 쏟아지면서 여론 조작 우려가 최고조에 달하고 있다는 지적이 제기됐다.

19일(현지시간) 비영리 정치광고 분석기관인 웨슬리언 미디어 프로젝트의 보고서에 따르면 이번 중간선거에서 최소 220건의 AI 생성 정치 광고가 유포됐으며, 여기에 1억3천700만 달러(약 1천820억원)가 집행된 것으로 집계됐다.

대선이 있었던 지난 2024년 선거 당시 확인된 AI 광고 지출액이 5만 달러 미만이었던 것과 비교하면 폭발적인 증가세다.

특히 이와 같은 상대 후보를 왜곡하거나 기만하는 딥페이크 정치 광고가 속출해 선거에 부정적인 영향을 줄 것이라는 우려가 나오고 있다.

텍사스주 연방 상원의원 선거에서는 민주당 제임스 탈라리코 후보가 킹 제임스 성경에 낙서해 '킹 제임스 탈라리코 성경'으로 바꾸면서 "신은 이분법적인 존재가 아니었고 기독교인도 아니었다. 신은 여섯 개의 성별이 있으라고 했다"고 말하는 가짜 광고를 공화당 켄 팩스턴 후보 캠프가 유포했다.

미시간주 연방 상원의원 선거에서는 민주당 압둘 엘사예드 후보가 '미국에 죽음을', '추수감사절을 기념하지 말라', '9·11을 기념하라' 등 문구가 적힌 카드 게임을 즐기는 합성 영상을 보수 성향 슈퍼팩(SuperPAC·특별정치활동위원회) '프론트 라인 액션'이 전파하고 있다.

조지아주에서는 민주당 상원의원이 미용 시술을 받는 딥페이크 영상이, 펜실베이니아주지사 선거에서는 민주당 주지사가 정치자금 500만 달러를 받고 데이터센터 건설을 신속하게 추진했다는 합성 광고가 유포됐다고 온라인 매체 악시오스가 전했다.

공화당 후보끼리 맞붙은 오클라호마주지사 선거에서는 '오클라호마를 다시 위대하게'라는 단체가 정적(政敵)인 힐러리 클린턴 전 국무장관과 다정하게 볼을 맞댄 상대 후보의 가짜 이미지에 '클린턴 애호가, 트럼프 혐오자'라는 자막을 달아 광고로 내보냈다.

플로리다주지사 경선에서도 공화당 측이 같은 당의 경선 경쟁자가 일한 오마르 민주당 하원의원과 함께 이란 지도자들과 파티를 즐기는 딥페이크 영상을 제작했다.

제임스 탈리리코 민주당 텍사스주 연방상원의원 후보 겨냥 공화당의 AI 광고 [켄 팩스턴 후보 X 캡처. 재판매 및 DB 금지]

압둘 엘사예드 민주당 미시간주 연방상원의원 후보 겨냥 AI 광고 [슈퍼팩 '프론트라인액션' 광고 캡처. 재판매 및 DB 금지]

이와 같은 AI 생성 정치광고의 81%는 공화당 후보나 공화당계 정치활동위원회(PAC)가 제작했고 민주당 측은 12%에 불과했다. 집행 금액 기준으로도 전체 AI 광고의 88%를 공화당이 차지하는 등 여권이 적극적으로 활용하고 있는 것으로 드러났다.

웨슬리언 미디어 프로젝트 공동대표인 트래비스 리다웃 워싱턴주립대 교수는 뉴욕타임스(NYT)에 "민주당 후보·단체들은 자신들이 규제해야 한다고 주장하는 도구를 사용할 때 더 높은 평판 위험에 직면한다"고 민주당 진영이 AI 광고 사용에 더 신중한 태도를 보이는 이유를 분석했다.

실제로 탈라리코 후보 측은 자신의 광고에 'AI가 아니라 사람이 만들었다'는 문구를 표시하는 등 '역발상' 마케팅을 펼치기도 했다.

이처럼 AI 조작 광고가 범람하는 데는 관련 제작 비용이 크게 낮아진 데다 관련 규제의 적용이 늦어지는 법적 공백이 커졌기 때문으로 풀이된다.

AI 기술의 발달로 기존에는 영상 한 편에 수백만 달러가 들던 제작비가 10분의 1 수준으로 낮아졌다.

50년 경력의 정치광고 제작자 프레드 데이비스 3세 '스트래티직 퍼센셥' 설립자는 "올해는 AI 선거의 해"라며 원래대로라면 200만 달러가 들었을 광고를 AI를 활용해 20만 달러로 만들 수 있게 됐다고 설명했다.

이런 상황에서도 연방 차원의 AI 정치 광고 규제는 전무하며 딥페이크를 금지하는 주(州)는 4곳, 최소한의 표기 의무를 둔 주는 27곳에 불과하다.

이에 따라 실제로 웨슬리언 미디어 프로젝트가 집계한 AI 정치광고 220건 중 70%가 AI 사용 표기를 생략한 것으로 조사됐다.

하버드대와 토론토대에 출강하는 보안 전문가 브루스 슈나이어는 "문제가 되는 것은 AI가 아니라 기만"이라며 "기만이 상당히 유용한 전략이 되는 것으로 드러났다"고 우려했다.

comma@yna.co.kr

▶제보는 카톡 okjebo