미·브라질·이스라엘 선거판, AI ‘딥페이크 정치광고’ 쏟아졌다

11·3 미국 중간선거 상원의원 공화당 후보로 나선 켄 팩스턴 텍사스주 법무장관 선거캠프가 만든 인공지능(AI) 광고에서 제임스 탤러리코 민주당 후보가 가공의 ‘킹제임스 탤러리코 성경’을 읽고 있다(위). 조지아주 상원의원 선거에서 공화당계 슈퍼팩이 제작한 인공지능 광고 속 존 오소프 민주당 상원의원은 손톱 관리를 받고 있다. 모두 인공지능으로 만든 딥페이크 영상이다. 유튜브 갈무리

11·3 미국 중간선거 격전지인 텍사스주 연방 상원의원 선거에 출마한 민주당 후보 제임스 탤러리코는 최근 한 선거 광고에, 성경에 크레용으로 낙서하며 “신은 논바이너리(성별 이분법에서 벗어난 정체성)”라고 말하는 인물로 등장했다. 경쟁 후보인 공화당 켄 팩스턴 텍사스주 법무장관 선거캠프가 공개한 인공지능(AI) 생성 광고였다. 탤러리코가 여러 시기에 말한 종교와 성별 관련 발언을 맥락에서 떼어내 하나의 독백처럼 만든 것이었다. 탤러리코는 “광고 속 문장이 모두 내가 한 말은 아니다”라며 “팩스턴이 인공지능으로 유권자를 속이려 한다”고 반발했다.

2일 한겨레 취재를 종합하면, 최근 주요 선거를 치른 미국·브라질·이스라엘 등에서 후보와 정당, 외곽단체가 인공지능으로 만든 상대 후보 비방 영상과 이미지를 경쟁적으로 쏟아내고 있다. 인공지능 생성물임을 표시하라는 규제가 늘고 있지만, 콘텐츠 확산 속도와 규모를 따라가지 못하고 있다.

미국에서는 후보 등이 인공지능으로 만든 정치광고가 문제가 되고 있다. 슬롭(인공지능이 대량 생산한 저품질 생성물)과 프로파간다(선전)를 합친 ‘슬로파간다(slopaganda)’라는 신조어가 나올 정도다. 조지아주에서는 공화당계 슈퍼팩이 경쟁 후보인 존 오소프 민주당 의원이 머리와 손톱 손질을 받는 딥페이크 광고를 내보내며 그가 외모 관리에 막대한 돈을 썼다고 공격했다. 펜실베니아 주지사 선거에서는 스테이시 개리티 공화당 후보 캠프가 조시 샤피로 주지사가 데이터센터 업체의 정치자금을 받고 사업을 밀어줬다고 스스로 말하는 딥페이크 광고를 만들었다.

웨슬리언대 연구팀 ‘웨슬리언 미디어 프로젝트’는 지난달 11일까지 인공지능 생성 정치광고 220편에 1억3700만 달러(약 1837억원)가 지출됐고, 대부분 공화당 쪽 광고였다고 분석했다.

브라질에서는 후보가 직접 소셜미디어(SNS)에 인공지능으로 만든 상대 후보 공격 영상을 게시했다. 브라질 고등선거법원은 낙선한 플라비우 보우소나루 대선 후보가 엑스(X)에 올린 인공지능 생성 영상을 삭제하라고 명령했다. 루이스 이나시우 룰라 다시우바 브라질 대통령이 ‘트럼프, 우리 범죄자들을 내버려둬’라고 적힌 티셔츠를 입고 백악관 앞을 걷는 영상이다. 미국이 브라질 범죄조직을 ‘마약 테러조직’으로 지정한 것에 룰라 정부가 반발한 것을 조롱한 것이다.

이스라엘에선 베냐민 네타냐후 총리가 경쟁자인 가디 아이젠코트 야사르당 대표가 아랍계 정당 라암의 지도자 만수르 아바스를 껴안는 딥페이크 영상을 공유했다. 반아랍 정서를 자극하려는 의도로 만든 이 영상은 가자전쟁에서 숨진 아이젠코트의 아들을 연상시키는 인물까지 등장시켜 논란을 빚었다. 이스라엘개방대 연구 프로젝트 ’제 베 에이아이(Ze Be AI)’는 10월 중순까지 네타냐후가 이끄는 리쿠드당의 분석 대상 소셜미디어 게시물의 4분의1이 인공지능 생성물이라고 집계했다.

브라질 대선 후보였던 플라비우 보우소나루가 엑스(X)에 올린 인공지능 생성 영상에서 룰라 대통령이 ‘트럼프, 우리 범죄자들을 내버려둬’라고 적힌 티셔츠를 입고 백악관 앞을 걷고 있다(왼쪽). 이스라엘 베냐민 네타냐후 총리가 공유한 인공지능 생성 영상에서는 경쟁자인 가디 아이젠코트 야사르당 대표가 아랍계 정당 라암의 만수르 아바스 대표를 껴안는 모습이 나온다. 모두 인공지능으로 만든 딥페이크 영상이다. 엑스·틱톡 갈무리

규제는 이제 막 만들어지고 있다. 미국에서는 인공지능으로 만든 정치광고를 규제하는 연방법이 없다. 대신 4개 주가 일부 선거 기간 동안 딥페이크 광고를 금지하고, 27개 주가 인공지능 사용 고지를 요구한다. 브라질도 선거 광고에 인공지능을 쓰면 고지하도록 했고, 후보 유불리에 영향을 줄 딥페이크 광고는 금지했다. 다만 후보나 정당의 공식 계정 바깥에서 유통되는 생성물까지 통제하기는 어렵다.

인공지능 선거물이 표심을 실제 바꾸는지는 불분명하다. 이런 영상이 게시물의 주장에 동의하는 사람에게 주로 퍼지기 때문이다. 뉴욕대 기술정책센터의 2024년 연구에서는 인공지능 사용 고지가 붙은 정치 광고의 후보를 덜 신뢰하고 덜 매력적으로 평가하는 역효과가 나타나기도 했다.

전문가들은 인공지능으로 만든 가짜 콘텐츠의 또다른 부작용으로 진짜 영상이나 녹취물마저 조작됐다며 부정할 수 있다는 점을 꼽는다. 테힐라 슈바르츠 알트슐러 이스라엘민주주의연구소 선임연구원은 타임스오브이스라엘에 “‘인공지능 슬롭’의 목적은 표심을 바꾸는데 있지 않다”며 “사회 분열을 키우고, 무엇이 진짜이고 무엇이 가짜인지는 중요하지 않다는 메시지를 퍼뜨리는 데 있다”고 했다.

유권자들이 정치 정보를 얻는 인공지능 챗봇을 더 우려해야 한다는 지적도 나온다. 인공지능 사용이 일반화하면서 최근 챗봇의 답변을 자신들에게 유리하게 만들기 위한 선거 전략이 등장했다. 로이터는 지난달 26일 미국 매사추세츠 주지사 선거 공화당 후보 캠프에서 챗지피티(GPT) 등이 후보를 긍정적으로 소개하도록 유도하는 ‘생성형 엔진 최적화(GEO)’ 전략이 제안됐다고 보도했다. 인공지능이 답변에서 자주 인용하는 웹사이트에 후보 정책 콘텐츠를 집중 배치하는 방식이다. 지난 7월에는 이스라엘 정부가 미국 내 이스라엘 대한 여론을 조성하기 위해 챗봇 답변에 영향을 줄 웹사이트를 구축하는 계약을 미국 업체와 맺은 사실이 알려졌다.

이우연 기자 azar@hani.co.kr