美 경선서 'AI 가짜 목소리' 첫 등장…'슈퍼 선거의 해' 전세계 주의보

바이든 사칭 로보콜이 투표단념 독려…백악관 AI 딥페이크물 경계 당부
생성AI 보급으로 합성물 양산 용이해져…의혹 당사자 빠져나갈 구멍 제공

생성형 인공지능(AI)이 미국 대선판에 들어와 유권자를 조종하는 듯한 모습을 표현한 자료사진. 2023.12.21. ⓒ 로이터=뉴스1 ⓒ News1 김성식 기자

(서울=뉴스1) 김성식 기자 = 미국 민주당 대선 경선을 하루 앞둔 22일(현지시간) 뉴햄프셔주 일대에 당내 유력 경선 주자인 조 바이든 대통령을 사칭한 '투표 방해 전화'가 기승을 부린 가운데 생성형 인공지능(AI)으로 대통령 목소리를 합성된 사실이 확인됐다.

그간 'AI 기술이 민주주의를 위협할 것'이란 우려가 전문가들을 사이에서 나왔지만, 선거 기간 특정 후보의 득표를 방해하려는 목적으로 AI 음성 합성물이 유포된 건 미 선거 역사상 이번이 처음이다. 생성형 AI 모델은 국경을 초월하는 데다 적은 비용으로 손쉽게 합성물을 생성할 수 있어 '슈퍼 선거의 해'를 맞은 각국에도 각별한 주의가 요구된다.

로이터 통신에 따르면 오는 23일 민주당의 첫번째 프라이머리(예비선거)가 치러지는 뉴햄프셔주에선 이날 수화기 너머로 바이든 대통령의 목소리를 흉내낸 이른바 '로보콜'(robocall)을 받았다는 유권자들의 증언이 속출했다. 로보콜은 녹음된 음성이 기계에 의해 자동 재생되는 전화로 보통 정당이나 마케팅 회사에서 발신한다.

해당 로보콜은 "11월 대선 본선을 위해 프라이머리 투표를 유보하는 게 중요하다"며 "이번 23일 투표에 참여하면 공화당이 도널드 트럼프 전 대통령을 다시 선출할 수 있게 도와준다"고 투표 불참을 독려다. 이번 뉴햄프셔주 프라이머리에선 민주당 중앙당과 주당국의 갈등으로 1위 후보인 바이든 대통령이 투표용지에서 제외됐다. 따라서 로보콜의 메시지는 민주당 군소후보의 득표율을 올려 공화당에 역공의 빌미를 주지 말자는 뜻으로 해석된다.

이날 백악관은 해당 로보콜에 대해 바이든 대통령의 목소리가 아니라고 밝혔다. 그러면서 AI로 가짜 이미지와 음성을 합성하는 딥페이크(deep fake)물에 유권자들의 주의를 당부했다. 바이든 캠프 관계자는 뉴햄프셔주에서 벌어지는 바이든 기명투표 운동을 저지하려는 시도라고 규탄했다. 공화당 유력 경선 주자인 트럼프 전 대통령 측은 이번 로보콜은 자신들과 관련이 없다고 선을 그었다.

전문가들은 가짜 AI 합성물이 선거판에 몰고올 후폭풍이 막강할 것으로 전망했다. 스팸전화 방지업체 하이야의 기술 책임자인 조나단 넬슨은 이날 비즈니스 인사이더와의 인터뷰에서 지난 주말 바이든 사칭 전화를 포함해 관련 로보콜 발신량이 전례 없이 폭증했다며 "AI 합성 로보콜로 인해 역대 가장 거친 대선이 벌어질 것"이라고 내다봤다. 넬슨은 또한 생성형 AI의 보급으로 합성물을 양산하기 훨씬 용이해졌다고 지적했다.

허위정보를 양산한다는 점 외에도 AI 합성물이 현실과 거짓의 경계를 무너뜨려 각종 의혹의 중심에 선 정치인들에게 빠져나갈 구멍을 제공한다는 비판도 제기된다. 지난해 12월 트럼프 전 대통령의 여러 말실수를 조명한 광고가 폭스뉴스에 방영되자 트럼프 전 대통령은 자신의 소셜미디어에 "나를 비뚤어진 조 바이든처럼 한심하게 보이기 위해 AI를 사용하고 있다"고 반박했다. 그러나 해당 광고는 반(反)트럼프·온건 보수 성향의 공화당원들이 제작한 것으로 기존 언론 보도를 통해 확인된 내용만 담고 있었다.

이달 총통선거가 치러진 대만에서는 지난해 10월 부총리 격인 정원찬(鄭文燦) 행정원 부원장이 여성과 호텔방에 들어가는 영상이 공개됐다. 이에 정 부원장은 AI 합성물이라며 강력 부인했지만, 이와 관련한 기술적인 근거는 아직 나오지 못한 상태다. 허위정보 추적기관 그래피카의 분석가인 리비 랭은 이날 워싱턴포스트(WP)와의 인터뷰에서 AI 합성물이 "진실이라는 개념 자체를 불안정하게 만든다"며 "모든 게 가짜가 될 수 있다면 진실은 존재하지 않게 돼 정치적 행위자들은 어떤 해석이든 선택할 수 있다"고 꼬집었다.

seongskim@news1.kr