선거판 교란하는 딥페이크 폭증… 정부·여야, 전방위 방어선 구축
선거일 전 90일간 AI 선거운동 전면 금지
22대 총선 389건서 21대 대선 1만513건 급증
행안부 등 범정부 대응 협의체 본격 가동
여야 자체 방어선 구축 등 AI 리스크 대응
6·3 지방선거 공식 선거운동 개시를 하루 앞두고 전국 선거판에 인공지능(AI) 불법 딥페이크 경계령이 켜졌다. 전면적인 금지 조치에도 기술 발전으로 교란 행위가 역대 최고 수준으로 증가하고 있기 때문이다. 이에 정부 관계 부처가 강력한 단속 기조를 세운 데 이어, 여야도 대응 체계를 구축에 나섰다.
20일 중앙선거관리위원회에 따르면 AI를 활용한 불법 딥페이크 및 딥보이스 선거 위반 게시물이 최근 선거판에서만 수천건 이상 적발되며 과열 양상을 보이고 있다. 공직선거법상 선거운동을 위한 AI 딥페이크 제작과 유포가 전면 금지됐음에도 불구하고 가짜 영상을 활용한 위법 행위가 성행하고 있다.
울산에서는 외국의 유명 시사 주간지 타임지에서 지역 발전을 이끌 인물로 선정했다는 가짜 뉴스가 가상 아나운서 발화 형식의 정교한 딥페이크 영상으로 제작·유포되기도 했다. 울산 남구선관위는 딥페이크 영상을 배포한 입후보 예정자를 경찰에 고발 조치했다.
피고발인은 개인 사회관계망서비스(SNS)에 실제 타임지 표지 양식을 도용하고 AI 가상 아나운서의 음성을 통해 허위 사실을 적시한 영상을 게시한 혐의를 받고 있다.
이 사례는 딥페이크 관련법 가중 처벌 규정이 신설된 이후 전국 최초의 고발 사례로 기록됐다. 선관위는 고발조치와는 별개로 AI 생성물 표시 의무를 위반한 피고발인에게 500만원의 과태료도 처분했다.
최근에는 영상 조작을 넘어 음성적으로 진화하는 딥보이스 등 위반 기법도 다양해지는 추세다. 대구 달서구선관위는 예비후보자의 선거운동을 위해 SNS에 불법 딥페이크 음성을 삽입한 영상물을 제작·게시한 선거사무 관계자를 적발해 경찰에 고발했다.
현행 공직선거법에 따르면 선거일 전 90일부터 선거일까지 선거운동을 위해 AI 기술 기반의 딥페이크 영상이나 음향을 제작, 편집, 유포, 게시할 경우 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금형에 처해진다. 이는 영상 하단 등에 AI 생성물이라는 표시를 자발적으로 명시했더라도 면책되지 않는 엄격한 규정이다.
사법당국이 이처럼 고강도 법적 제재를 예고하며 무관용 원칙을 세웠지만 선거 현장의 위법 행위는 오히려 폭증하는 양상이다. 국회 행정안전위원회 소속 국민의힘 고동진 의원실을 통해 입수한 중앙선거관리위원회 자료에 따르면 지난 2024년 제22대 총선 당시 389건에 불과했던 AI 딥페이크 이용 선거운동 게시물 적발 건수는 이듬해인 2025년 제21대 대선에서 1만513건으로 늘어나며 1년 만에 27배가량 폭증했다.
같은 기간 허위 사실 공표 게시물 적발 건수 역시 각각 9777건(2024년 총선)과 9522건(2025년 대선)을 기록하며 선거철마다 가짜뉴스를 활용한 교란 행위가 지속되는 것으로 확인됐다. 이러한 폭발적인 추세가 이번 지선에서도 이어지고 있다. 공식 선거운동이 개시되기도 전인 5월 초 기준 전국 누적 적발 건수만 벌써 6287건을 돌파한 것으로 공식 집계됐다.
기술형 교란 행위가 폭증함에 따라 가짜뉴스와의 전면전을 선언한 행정안전부 등 범정부 차원의 차단망 구축과 대응이 한층 강화됐다.
김민석 국무총리는 이날 정부서울청사에서 열린 공명선거 관계장관회의 모두발언을 통해 “2022년 지방선거 때와 비교해 선거법 위반 사례가 큰 폭으로 증가하고 있다”며 특히 AI를 악용한 딥페이크 등 신종 선거범죄에 대해 “국민의 합리적 판단을 흐리게 하고 부정적 효과도 매우 크다. 신속하게 삭제 조치하고, 최초 제작자부터 유포자까지 철저하게 추적해 반드시 뿌리 뽑도록 하겠다”고 강조했다.
정부는 지난 8일 윤호중 행안부 장관 주재로 국무조정실, 방송미디어통신위원회, 법무부, 경찰청 등이 참여하는 ‘범정부 허위·가짜뉴스 대응 협의체’를 가동하고 부처별 소관 영역을 넘어선 총력 방어선 구축에 나섰다.
방미통위는 온라인 플랫폼상의 가짜뉴스 신속 삭제와 접근 차단을 위해 민·관 합동 자율규제 협의체 점검에 나섰으며, 행안부는 시·도 합동감찰반을 특별 운영해 공무원의 허위 정보 게시물 유포나 선거 개입 행위 적발 시 고의성 여부를 불문하고 엄중 처벌한다는 방침을 확정했다.
검찰과 경찰 역시 허위·가짜뉴스, 흑색선전, 금품수수, 공무원 선거 개입을 공명선거를 위협하는 중점 단속 대상 선거범죄로 보고 고강도 수사를 진행한다. 중앙선관위 역시 기술 고도화에 맞서 전국 440명 규모의 ‘딥페이크·허위사실공표·비방 등 특별대응팀’을 구성해 위법 게시물 추적에 고삐를 죄고 있다.
이에 맞춰 여야 각 정당도 선거운동 개시 전날 일제히 디지털 가짜뉴스 신고센터 및 전담 대응 체계를 가동하는 등 자체 방어전 구축에 착수했다.
박진우 기자 pjw19786@dt.co.kr
Copyright © 디지털타임스. 무단전재 및 재배포 금지.