“경선 투표하지 말라” 불참 독려 전화 속 바이든 목소리는 ‘가짜’였다

美 민주 뉴햄프셔 선거 앞두고
불참 독려 ‘AI 음성’ 전화 퍼져
딥페이크 대선 악용 우려 고조

조 바이든 미국 대통령의 가짜 목소리를 담은 자동 녹음 전화(robocall)가 미 대선 경선이 열리는 뉴햄프셔주 유권자들에게 퍼지면서 인공지능(AI) 기술을 활용한 딥페이크(가짜) 도구의 선거 악용 우려가 또다시 제기됐다.

미 NBC방송은 22일(현지시간) 뉴햄프셔 유권자들을 대상으로 바이든 대통령의 가상 목소리로 뉴햄프셔 경선에 참여하지 말라는 내용의 자동 녹음 전화가 걸려왔다고 보도했다. NBC가 공개한 28초 분량의 전화 음성은 바이든 대통령이 즐겨 사용하는 “말도 안 되는 소리”(What a bunch of malarkey)라는 음성을 시작으로 “11월 대선을 위해 여러분의 투표를 아껴두라”고 말한다. 이어 “화요일에 투표하는 것은 도널드 트럼프 당선이라는 공화당의 목표를 돕는 일”이라며 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”고 강조한다.

조 바이든 미국 대통령. AP연합뉴스

뉴햄프셔주 법무장관실은 해당 전화에 대한 조사에 착수했다. 주 법무장관실은 성명을 통해 “자동 녹음 전화의 목소리가 바이든 대통령의 목소리처럼 들리지만, 이 메시지는 인위적으로 생성된 것으로 보인다”면서 “뉴햄프셔 프라이머리를 방해하고, 뉴햄프셔 유권자를 억압하려는 불법적인 시도로 보인다”고 밝혔다.

매체는 얼마나 많은 유권자가 전화를 받았고, 특정 유권자를 대상으로 전화가 갔는지는 명확하지 않다고 설명했다. 바이든 대통령은 이번 뉴햄프셔 프라이머리(예비선거)에는 후보 등록을 하지 않았다.

민주당 전국위원회가 다음 달 3일 치러지는 사우스캐롤라이나 프라이머리를 당의 첫 공식 경선으로 결정한 상황에서 뉴햄프셔주가 23일 프라이머리를 강행하면서 뉴햄프셔 경선은 민주당의 비공식 경선으로 치러진다.

오는 11월 미국 대선을 앞두고 경쟁이 치열해지는 가운데 AI 도구를 활용한 가짜뉴스와 선거 악용 우려가 제기되고 있어 민관에서는 대책 마련에 나서고 있다.

생성형 AI 챗GPT 개발사 오픈AI는 최근 미 민주당 대선 경선 후보인 딘 필립스 연방 하원의원의 AI 챗봇을 개발한 AI 스타트업 델파이의 계정을 중단시켰다고 밝혔다.

미국 최소 13개 주에서는 AI를 활용한 가짜 이미지나 오디오, 비디오 콘텐츠로 선거 관련 허위 정보가 확산하는 일을 방지하기 위한 법안을 추진 중이다. 이들 법안은 AI로 생성한 콘텐츠의 경우 이를 표시하도록 고지 의무를 부과하거나, AI로 생성한 콘텐츠의 게시를 금지하는 방식의 규제 내용을 담고 있다.

워싱턴=박영준 특파원 yjp@segye.com