'선거의 해' 지구촌 뒤흔드는 'AI 음성 조작' 비상

"이번 화요일에 투표하지 마세요. 그것은 도널드 트럼프를 도울 뿐입니다."

최근 며칠 사이에 미국 뉴햄프셔주에서는 마치 조 바이든 대통령의 목소리처럼 들리는 '가짜 전화'가 여기저기로 걸려 왔습니다.

코앞으로 다가온 민주당 뉴햄프셔주 프라이머리(예비경선)를 앞두고 투표를 거부하라고 독려하는 내용이었습니다.

말투까지 바이든 대통령과 흡사한 이 목소리는 교묘하게 위조된 것으로, 정확한 배후는 아직 드러나지 않았지만 대선 레이스에서 바이든 대통령에게 타격을 주기 위한 의도가 있는 것으로 추정됐습니다.

블룸버그통신, 영국 일간 파이낸셜타임스(FT) 등은 미 대선을 포함해 올해 세계 각국에서 굵직한 선거가 줄줄이 열리면서 이같이 '오디오 딥페이크'를 악용하는 사례가 속출한다고 23일(현지시간) 보도했습니다.

오디오 딥페이크는 인공지능(AI)을 기반으로 음성을 합성하는 기술로, 문제는 각국에서 선거철을 앞두고 가짜 정보를 퍼트리는 수단으로 악용되고 있다는 점입니다.

마치 정치인이나 유명 인사의 메시지인 것처럼 들리도록 조작된 음성을 퍼트려 불법 선거 운동을 한다는 것입니다.

FT에 따르면 지금까지 영국, 인도, 나이지리아, 수단, 에티오피아, 슬로바키아에서 이같이 음성 조작으로 의심되는 사례가 나왔습니다.

이처럼 음성 조작이 기승을 부리는 것은 영상을 조작하는 것보다 비용이 덜 들고, 기술적으로도 덜 복잡하며, 추적은 어렵기 때문이라고 합니다.

실제로 마이크로소프트(MS)가 지난해 선보인 AI 음성 합성 모델 '발리'(VALL-E)의 경우 3초 길이의 음성 표본만 있으면 해당 목소리를 따라 하는 것이 가능하다고 합니다.

AI 음성 생성 스타트업인 일레븐랩스는 외부에서 투자가 쇄도하면서 회사 가치가 11억 달러(1조 5천억 원)로 평가됐다고 지난 22일 밝히기도 했습니다.

다른 스타트업에서도 우후죽순으로 오디오 딥페이크 기술을 내놓으면서 한 달에 최저 1달러짜리 서비스도 등장한 것으로 알려졌습니다.

이같은 음성 조작으로 특정 세력을 비방하거나 음모론을 퍼트릴 우려가 커지면서 각국에서도 대응 태세를 끌어올렸습니다.

미국에서는 올해 들어서만 최소 13개 주에서 AI를 활용한 가짜 이미지나 오디오, 비디오 콘텐츠로 선거 관련 허위 정보가 확산하는 일을 방지하기 위한 법안이 추진되고 있습니다.

하지만 맹점은 이처럼 AI로 조작된 음성은 주로 전화로 퍼진다는 점에서 출처를 추적하기가 쉽지 않다고 전문가들은 지적했습니다.

블룸버그통신에 따르면 보스턴대 언론학 교수인 조안 도너번은 "전화로 퍼지는 가짜 음성은 온라인과 달리 동일한 흔적을 찾기가 어렵다"면서 "새로운 형태의 교묘한 수법이 등장했다"고 우려했습니다.

유영규 기자 sbsnewmedia@sbs.co.kr