바이든 목소리 ‘딥페이크 로보콜’ 날리면…미래의 선거, 괜찮을까

바이든 대통령 목소리, 즐겨 쓰는 표현 그대로 흉내
당원들에게 “오픈 프라이머리 참여 말라” 종용

조 바이든 미국 대통령이 22일 백악관에 헬기로 도착한 뒤 기자들에게 손을 흔들고 있다. 워싱턴/로이터 연합뉴스

인공지능(AI)의 선거 악용 우려가 이어지는 가운데 조 바이든 미국 대통령의 목소리를 흉내낸 로보콜(자동 녹음 전화)이 유권자들에게 걸려왔다. 23일 뉴햄프셔주 민주당 프라이머리(예비선거)와 관련된 것으로, 실제 선거 과정에서 인공지능을 활용한 딥페이크 음성 기술이 사용된 것이다.

뉴햄프셔주 검찰은 22일 바이든 대통령의 목소리를 모방해 민주당원들에게 프라이머리에 참여하지 말라고 종용하는 전화가 걸려와 수사에 착수했다고 밝혔다. 이 전화는 “진짜 헛소리네”라며 바이든 대통령이 즐겨 쓰는 표현으로 시작한다. 이어 “11월 선거(대선 본선)를 위해 당신의 표를 아껴둬야 한다”며 “이번 화요일에 투표하는 것은 공화당이 도널드 트럼프를 다시 선출할 수 있도록 돕는 것”이라고 했다. 또 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 가져올 것”이라며 프라이머리에 참여하지 말라고 거듭 요구했다.

뉴햄프셔주 검찰은 성명에서 “로보콜 음성은 바이든 대통령 목소리처럼 들리지만, 이 메시지는 인공적으로 생성된 것으로 보인다”며 “대선 경선을 방해하고 유권자들을 억누르려는 불법적 시도로 판단된다”고 밝혔다. 또 “유권자들은 이런 전화를 무시해야 한다”며, 경선에 참여하면 대선 본선에서 표를 던질 수 없다고 오인하지 말라고 했다.

문제의 전화는 민주당 간부 명의를 도용했다. 뉴햄프셔주 민주당 위원장 출신인 캐슬린 설리번은 이 전화 메시지는 자신의 남편 이름으로 보낸 것으로 돼 있고, 자신의 휴대폰 번호가 수신 거부용 전화번호로 적혀 있었다고 신고했다. 그는 “이런 식의 행동을 방치하면 상황은 더 나빠질 것”이라며 철저한 수사가 필요하다고 했다.

이번 일은 바이든 대통령 등의 의견에 따라 민주당이 다음달 3일 사우스캐롤라이나주 프라이머리를 첫 경선으로 지정한 것과 관련해 그를 곤란하게 만들려는 의도로 보인다. 바이든 대통령은 원래 먼저 경선을 치러온 아이오와주와 뉴햄프셔주는 백인 비중이 너무 높아 대표성이 떨어진다며 초기 경선 일정을 바꿨다. 그러나 뉴햄프셔주는 첫 프라이머리를 실시한다는 주법에 따라 프라이머리를 강행한다. 민주당 전국위원회는 그 결과를 공인하지 않기로 했지만 현지 민주당원들 사이에서는 투표용지에 없는 바이든 대통령 이름을 수기로 적자는 운동도 벌어지고 있다.

인공지능에 기반한 딥페이크 기술을 이용하는 허위 정보에 대해선 전에도 공화당이 바이든 대통령의 모습을 조작한 동영상을 만든 사례 등이 있어 경각심이 높아져 있는 상태다. 워싱턴포스트는 챗지피티(GPT) 개발사인 오픈에이아이가 민주당 대선 경선에 출마한 딘 필립스 하원의원을 모방한 봇 계정을 정지시켰다고 20일 보도했다. 이는 대선을 앞두고 오픈에이아이가 자신들의 기술이 선거운동에 오용되고 있다고 판단한 첫 사례다.

워싱턴/이본영 특파원

ebon@hani.co.kr