누구나 너무 쉽게…발전한 딥페이크, 유권자를 노린다

<앵커>

인공지능 기술이 발달하면서 이제는 누구나 가짜 영상이나 이미지를 만들어낼 수 있게 됐죠. 올해 전 세계 70여 개국에서 선거가 치러지는데, 혹시나 이런 기술이 선거에 악용되지는 않을지 우려가 커지고 있습니다.

대책은 없는지, 워싱턴 남승모 특파원이 취재했습니다.

<기자>

지난달 미국 뉴햄프셔 경선을 앞두고 유권자들에게 걸려온 전화입니다.

[바이든 미 대통령 음성 위조 전화 : 말도 안 되는 소리입니다. 11월 대선을 위해 당신의 표를 아끼는 게 중요합니다.]

바이든 미 대통령의 말투를 흉내 낸 가짜였습니다.

팝스타 테일러 스위프트를 딥페이크 기술로 합성한 음란물이 유포되기도 했습니다.

AI 기술 발달로 이제는 인터넷에 공개된 프로그램만으로도 손쉽게 가짜 콘텐츠를 만들 수 있습니다.

그럼 누구나 접속할 수 인터넷 사이트를 통해 제가 말하는 모습을 트럼프 전 대통령이 말하는 것처럼 만들어 보겠습니다.

트럼프 사진 한 장으로 단 몇 분 만에 만들어낸 초보적인 수준의 영상이지만 고개 움직임과 눈 깜빡임까지 구현해냅니다.

[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 개인이 기성 도구를 사용해 딥페이크 영상을 제작할 수 있습니다. 음성 딥페이크의 경우, 약 30초 분량의 동영상만 있으면 충분히 만들 수 있습니다.]

조작을 눈치채도, 노출자에게 잠재적 영향을 미칠 수 있습니다.

[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 사람들이 어느 정도 딥페이크라고 생각한다고 해서 그들이 딥페이크가 전달하는 메시지를 잊어버리는 것은 아닙니다.]

특히 정치 양극화가 심할 경우, 딥페이크가 일부 중도층 표심만 흔들어도 선거 결과를 왜곡할 수 있다고 경고합니다.

지난해 튀르키예 대선 당시, 테러 집단이 야당 후보를 지지한다는 딥페이크 영상, 슬로바키아 총선 때 퍼진 야당 대표의 금권 선거 논의 가짜 음성파일은 선거에 영향을 미친 실제 사례로 꼽힙니다.

딥페이크를 막기 위해서는 탐지 기술만으로는 한계가 있는 만큼 내용 왜곡을 걸러낼 선거 전문가 등과의 협업이 필요합니다.

[수브라흐마니안/노스웨스턴대 컴퓨터공학과 교수 : 탐지 기술의 강·약점을 이해하고 이에 더해 발언의 맥락을 파악해서 이 두 가지를 함께 고려하는 방식으로 조작 여부를 판단해야 합니다.]

빅테크 기업들은 유권자가 속을 위험이 있는 콘텐츠를 감지해, 식별 표시를 하기로 하는 등 보완 대책을 내놓고 있습니다.

우리나라는 이번 총선을 시작으로 선거일 90일 전부터, 딥페이크를 이용한 선거운동이 전면 금지됩니다.

(영상취재 : 박은하, 영상편집 : 김진원)

남승모 기자 smnam@sbs.co.kr