AI 활용 선거 홍보물 봇물..."선거법 위반 주의해야"

[앵커]
AI 기술이 발달하면서 누구나 손쉽게 이미지나 음성을 합성할 수 있죠?

이번 지방선거에서도 후보 이미지나 음성을 합성한 딥페이크 홍보물이 쏟아지고 있는데요.

무턱대고 올렸단 무거운 처벌을 받을 수 있어 주의가 필요합니다.

박가영 기자의 보돕니다.

[기자]
선관위 관계자가 딥페이크 탐지 프로그램에 한 예비 후보자 선거 홍보물을 집어넣습니다.

그리고 잠시 뒤 분석 결과에 '가짜'라는 문구가 뜹니다.

실제 촬영된 게 아니라 후보자의 이미지나 음성을 AI로 합성해 만들었다는 겁니다.

["이렇게 보면 글씨가 깨지거나 이런 부분들이 나오거든요. 이런 부분들이 AI라고 판명할 수 (있습니다.)"]

이번 지방선거에서도 이러한 딥페이크 홍보물이 쏟아지고 있는데 선거법을 위반한 사례도 잇따르고 있습니다.

최근 달서구 한 예비후보 선거 사무 관계자 A 씨가 딥페이크 홍보물을 제작했다 선관위로부터 고발당했습니다.

A 씨는 후보자 음성을 삽입한 영상을 제작해 SNS에 게시했는데 이 과정에서 가상 정보라고 표시하지 않고 딥페이크 활용이 금지된 기간에 관련 영상을 올린 혐의도 받고 있습니다.

지금까지 지역에서 딥페이크 홍보물 선거법 위반으로 적발된 사례는 모두 3건.

지난 3월 유튜브 채널에 AI를 활용한 공약을 올린 한 예비 후보자 선거 사무 관계자에 대해서도 조사가 진행되고 있습니다.

"문제가 된 게시글처럼 저도 이렇게 몇 초 만에 AI 프로그램을 활용해 선거 홍보물을 만들어 냈습니다. 그렇다면 딥페이크를 활용한 선거 운동, 어디까지 허용되는 걸까요."

선거일 90일 전까지는 가상 정보라는 사실을 표시하면 딥페이크를 활용한 선거 운동이 가능합니다.

하지만 선거일 90일 이내에 접어든 현재, 딥페이크를 활용한 선거운동 영상과 음성, 사진 모두 제작이나 유포가 원천 금지됩니다.

이를 어기면 7년 이하의 징역 또는 5천만 원 이하의 벌금을 받을 수 있습니다.

[전현숙/대구시선거관리위원회 홍보담당관 "선거의 공정성을 훼손할 수 있기 때문에 법을 몰라 위반하는 일이 없도록 예방활동을 우선적으로 하고 계속적, 반복적 악의적인 위반 행위는 엄중하게 단속해 조치할 예정입니다."]

딥페이크 관련 처벌 조항이 생긴 건 재작년부터, 유권자들의 올바른 선택을 위해서라도 AI 활용 홍보물에 대한 주의가 필요합니다.

TBC 박가영입니다.(영상취재 박종영. CG 김세윤)