"투표하지 말라" 미국 뉴햄프셔 주민에 걸려 온 바이든 전화, 딥페이크였다

전문가들 "딥페이크로 바이든 목소리 모방"
뉴햄프셔주 당국 "불법적 시도" 조사 착수

22일 미국 뉴햄프셔주 런던데리 고교 강당에 마련된 투표장에서 한 관계자가 안내문을 부착하고 있다. 23일 이곳에서는 올해 11월 미국 대선을 앞두고 각 당 후보를 뽑기 위한 예비 경선(프라이머리)이 열린다. 런던데리=EPA 연합뉴스

"화요일에 투표하는 건 도널드 트럼프의 대통령 당선이라는 공화당 목표를 돕는 일입니다."

20, 21일(현지시간) 미국 뉴햄프셔주(州)에 거주하는 미 민주당원들이 전화 수화기 너머로 들은 말이다. 조 바이든 미국 대통령의 음성이었다. 30초 분량 로보콜(robocall·녹음된 음성이 자동 재생되는 전화)에서 바이든 대통령은 "여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 것"이라며 23일 프라이머리(일반 투표식 예비선거) 투표엔 참여하지 말라고 주문했다.

---

"딥페이크, 선거 공정성 흔들 것" 우려 현실화

그러나 이는 바이든 대통령이 직접 녹음한 게 아니다. 22일 미국 NBC방송 등에 따르면, 생성형 인공지능(AI)으로 합성한 '가짜 바이든 목소리'다. 게다가 발신번호는 민주당 간부의 전화번호를 도용한 것으로 확인됐다. 수신자 입장에선 진짜 바이든 대통령의 목소리라고 오인하기에 충분한 상황이었던 셈이다.

지난 주말 뉴햄프셔주 민주당원들에게 집중적으로 걸려 온 이 로보콜을 누가 만들고 유포했는지는 아직 밝혀지지 않았다. 다만 "딥페이크(이미지, 목소리, 영상 등을 진짜처럼 합성하는 기술)로 조작된 듯하다"는 게 대다수 전문가의 공통된 견해다. 미국 싱크탱크 독일마셜펀드의 린지 고먼은 "마지막 부분으로 갈수록 부자연스럽고 로봇처럼 들린다"며 "위조된 음성 콘텐츠임을 확인할 수 있는 정보 중 하나"라고 NBC에 말했다. 뉴햄프셔주 법무장관실은 "유권자를 억압하려는 불법적 시도"라며 공식 수사에 착수했다고 밝혔다.

이 사건은 딥페이크가 선거의 공정성을 훼손할 것이란 우려가 현실화했다는 걸 보여 준 사례다. 특히 딥페이크를 이용해 날조한 로보콜이 등장한 건 처음이다. 비슷하게 조작된 로보콜이 11월 대선을 앞두고 본격적으로 기승을 부릴 것이란 미국 사회의 위기감도 크다. 로보콜은 선거철 후보자 측이 유권자들에게 지지를 호소할 때 흔히 동원하는 수단이기 때문이다.

---

로보콜도 오염..."영상보다 피해 클 수도"

전문가들은 딥페이크로 조작된 로보콜이 이미지나 영상보다도 심각한 문제를 일으킬 수 있다고 본다. 원래 음질이 선명하지 않은 녹음 파일 특성상 진위 구별이 어렵고, 조작 여부를 탐지해 주는 소프트웨어의 개발 속도도 음성 분야 쪽이 더딘 탓이다. 일대일 통화로 전파되는 구조라는 점에서, 인터넷을 통해 퍼지는 콘텐츠보다 차단이 쉽지 않을 것이란 분석도 나온다. 보이스피싱처럼 해외 등에 거점을 두고 조직적으로 운영할 경우 피해가 눈덩이처럼 불어날 수 있다는 얘기다.

딥페이크 규제책 마련이 시급하다는 목소리도 커지고 있다. 진보 성향 시민단체인 '퍼블릭 시티즌'의 로버트 와이즈먼 회장은 "의회가 서둘러 보호 장치를 만들어야 한다. 그러지 않으면 대혼란에 직면할 것"이라고 경고했다.

연관기사

• 대선 앞둔 미국, '딥페이크 조작' 비상... 빅테크, 'AI 탐지 기술'로 맞선다
(www.hankookilbo.com/News/Read/A2024010102370003640)

• 오픈AI도 '가짜 뉴스' 자율 규제 나섰다… 챗GPT, 선거 정보에 출처 표시
(www.hankookilbo.com/News/Read/A2024011611530002554)

실리콘밸리= 이서희 특파원 shlee@hankookilbo.com