딥페이크에 노출된 한국…총선 앞두고 정치권도 우려

[앵커]

이처럼 딥페이크 기술은 빠르게 진화하고 있습니다.

하지만 누구나 손쉽게 만들 수 있게 되면서 악용될 우려도 커지고 있는데요.

선거 과정에서 악용될 경우 유권자들에게 잘못된 정보가 전달될 수 있어 내년 총선을 앞두고 대책이 필요해 보입니다.

신현정 기자입니다.

[기자]

"유명 영화배우 성룡이 말을 하고 있는 영상입니다.

이건 제 증명사진인데요. 성룡이 말을 하는 영상에 제 증명사진을 입혀보겠습니다.

불과 30초도 안돼서 딥페이크 영상이 추출됐습니다. 이처럼 딥페이크 기술은 빠르게 발전하고 널리 보급됐습니다."

내년 총선을 앞두고 정치권에선 이 딥페이크 기술이 악용될 수 있다는 우려가 나온 지 오래입니다.

선거에서 AI가 활용되기 시작한 건 지난 대선 때. 윤석열 당시 후보를 본뜬 'AI 윤석열'이 대표적입니다.

하지만 대통령 당선 이후 치러진 지방선거에서 'AI 윤석열'이 쓰인 영상이 등장해 중립 유지 의무를 위반했다는 논란이 불거졌습니다.

하지만 AI가 활용된 불법 콘텐츠가 버젓이 유통되더라도 삭제와 같은 효과적인 조치가 이뤄지지 않는 것으로 드러났습니다.

방송통신심의위원회가 최근 3년간 적발한 불법 성적 허위 영상물은 9천여 건.

이중 시정조치를 요구한 뒤 삭제된 콘텐츠는 불과 410건으로, 5%도 안 됩니다.

이미 국회에는 악용 가능성을 차단하기 위한 법안이 여럿 발의된 상태입니다.

이상헌 더불어민주당 의원은 AI를 이용한 콘텐츠에 별도 표기를 의무화하는 법안을 발의했습니다.

정희용 국민의힘 의원은 AI 기술을 이용해 허위사실을 공표하면 처벌받도록 하는 법안을, 남인순 더불어민주당 의원은 선거운동 시 허위 사실이 포함된 딥페이스 영상 제작과 유통을 금지하는 법안을 발의했습니다.

하지만 모두 수개월째 계류된 상태로, 이번 21대 국회에서 통과되지 않으면 자동 폐기됩니다.

다만 당장 5개월 앞으로 다가온 내년 총선을 위한 특단의 대책이 시급한 상황.

<임종인/고려대학교 정보보호대학원 석좌교수> "현 정부에서 범정부TF, 그리고 거기에는 외국 통신, 인터넷 서비스 업자까지, 민간 쪽까지 전부 아우르는 TF를 만들어서 신속하게 가짜뉴스에 대한 대처가 필요하고요. 국제 협력 이 부분이 병행돼야 효과를 발휘할 거다…"

선관위가 지난 8월부터 특별대응팀을 띄워 허위정보를 모니터링하겠다고 밝혔지만, 효과적인 대응을 위해선 범정부 차원의 논의가 필요하다는 지적입니다.

연합뉴스TV 신현정입니다. (hyunspirit@yna.co.kr)

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23 (끝)

네이버에서 연합뉴스TV를 구독하세요
연합뉴스TV 생방송 만나보기
균형있는 뉴스, 연합뉴스TV 앱 다운받기