내일부터 ‘AI 딥페이크 영상’ 선거운동에 못 쓴다
사이버공정선거지원단 24명 운영
선거운동 목적 제작·유포·게시 금지
위반시 7년 이하 징역 등 처벌 강화
3단계 감별시스템…국과수 등 협업
“허위정보 의심시 즉각 선관위 신고”
제9회 전국동시지방선거를 앞두고 인공지능(AI)과 딥페이크 기술을 악용한 신종 사이버 선거범죄 우려가 커지고 있다. 선거의 공정성이 민주주의의 근간인 만큼, 선거관리위원회는 사이버공정선거지원단을 가동하는 등 대응 체계를 강화하고 있다. 본보는 최근 사이버 위반 사례를 바탕으로 전라남도선거관리위원회와 함께 딥페이크 선거운동 규제 및 대응 절차, 공정선거 확립을 위한 현장 준비 상황을 집중 조명한다.
5일부터 딥페이크 선거운동 전면 금지
제9회 전국동시지방선거에서 유권자와 입후보예정자가 가장 먼저 기억해야 할 날짜는 선거일 전 90일인 3월 5일이다. 이날부터 선거일까지는 AI 기술로 만든 이른바 딥페이크 영상·음향을 이용한 선거운동이 전면 금지된다. 핵심은 'AI 생성물'임을 표시했는지 여부와 관계없이 선거운동 목적의 딥페이크 제작·편집·유포·게시 자체가 금지된다는 점이다.
이를 위반하면 7년 이하의 징역 또는 1000만원 이상 5000만원 이하의 벌금에 처해질 수 있다. 선거일 전 90일 전에도 제한은 남는다. 이 기간에는 AI기술로 제작된 가상의 정보임을 명확히 표시해야 하며, 표시 의무를 어기거나 허위 사실을 담아 유포할 경우 별도의 선거법 위반으로 처벌될 수 있다.
다만 선관위는 규제가 곧 'AI 콘텐츠 전면 금지'를 뜻하는 것은 아니라고 설명한다. 특정 후보를 지지·반대하는 선거운동이 아니라 단순한 '투표 참여 권유' 목적이거나, 일반인이 보더라도 가상임이 명백한 삽화·캐리커처·애니메이션 등은 규제 대상에서 제외될 수 있다. 반대로 상대 후보를 비방하거나 허위 사실을 퍼뜨리는 목적이라면 형식과 시기에 관계없이 엄정 조치 대상이 된다.
가짜 잡지·뉴스… 현실이 된 사이버 범죄
사이버 선거범죄의 위험은 이미 현실에서 확인되고 있다. 최근 제9회 지방선거를 앞두고 허위 딥페이크 영상을 제작해 SNS에 게시한 입후보예정자가 적발됐다. 해당 영상은 외국 시사 주간지가 특정 인물을 '지역 발전을 이끌 인물'로 선정했다는 취지로 구성, AI 생성물이라는 표시 없이 유포됐다. 선관위는 해당 행위를 형사 고발하는 한편, AI 생성물 표시 의무 위반에 대해 과태료 500만원을 부과했다.
과거 선거에서도 유사 사례가 이어졌다. 대선 과정에서 특정 온라인 커뮤니티에는 후보자가 죄수복을 입고 감옥에 수감된 것처럼 보이는 합성 이미지가 반복 게시됐다. 다수가 구독하는 유튜브 채널에는 AI로 구현한 여성 아나운서를 내세워 뉴스 형식으로 특정 후보의 당락을 유도하는 영상이 게시된 사례도 있었다. 개인 SNS에서 특정 후보에 대한 부정적 이미지를 주는 글과 영상을 딥페이크로 제작해 게시·유포한 사례도 확인됐다.
딥페이크 콘텐츠는 외형만 보면 실제 뉴스나 영상과 유사해, 유권자가 짧은 시간 안에 진위를 판단하기 어렵다. 선관위는 이런 '진짜 같은 가짜 정보'가 유권자의 합리적 판단을 훼손할 수 있다고 보고 대응 수위를 높이고 있다.
기술에는 기술로… 3단계 감별 체계 구축
딥페이크 여부를 가려내는 절차도 체계화돼 있다. 선관위는 의심 콘텐츠가 발견되면 △시청각적 탐지 △프로그램 감별 △AI 전문가 자문으로 이어지는 3단계 감별 체계를 가동한다.
이 과정에는 국립과학수사연구원과 한국전자기술연구원이 공동 개발한 감별 도구가 활용되며, 필요 시 전문가 자문을 거친다. 선관위는 자의적 판단을 배제하고 기술적 근거에 따라 위법 여부를 판단한다는 방침이다.
단속과 함께 예방 조치도 병행하고 있다. 선관위는 포털사와 SNS 사업자와 협력해 딥페이크 선거운동 금지 안내를 강화, 신고·제보 배너 게시 등 예방 활동을 확대하고 있다. 권리 침해가 확인된 게시물은 게시중단 요청 절차를 통해 확산을 신속히 차단한다.
사이버공정선거지원단 운영해 상시 대응
온라인 선거 질서를 지키는 현장의 핵심 조직은 사이버공정선거지원단이다. 전남도선관위는 사이버상 위법행위에 대응하기 위해 '허위사실공표·비방 특별대응팀'을 운영하는 한편, 선거일 전 120일부터 선거일까지 지원단을 가동하고 있다.
지원단은 총 24명 규모로, 온라인 게시물 검색 인력뿐 아니라 위법성 검토와 데이터 분석, 디지털포렌식 분야 전문 인력으로 구성됐다.
지원단은 포털과 온라인 커뮤니티 게시판, 후보자 및 정당 관계자의 SNS, 유튜브 등 다양한 온라인 공간을 상시 점검하며 위반 의심 게시물을 탐지한다. 의심 게시물이 확인되면 검토 인력이 위법 여부를 1차 판단하고, 전임 직원이 삭제 권고나 삭제 요청 등 필요한 조치를 결정한다. 데이터 분석·포렌식 인력은 게시물의 유포 경로와 연관성을 분석해 반복적이거나 조직적인 위법행위까지 추적한다.
이 같은 대응은 수치로도 확인된다. 제8회 전국동시지방선거(2022년), 제22대 국회의원선거(2024년), 제21대 대통령선거(2025년) 등 최근 3차례 선거에서 도내 사이버 선거범죄 조치 건수는 1만2658건에 달했다. 유형별로는 여론조사 공표·보도 금지 위반(8524건)이 가장 많았고, 허위사실 공표(2284건)가 뒤를 이었다. 딥페이크 영상 등을 이용한 선거운동 위반은 950건 조치됐다.
"유권자의 팩트체크가 마지막 방어선"
선관위가 감시망과 단속 체계를 강화하고 있지만, 빠르게 발전하는 AI 기술을 제도만으로 완전히 통제하기는 쉽지 않다. 결국 딥페이크와 허위 정보로부터 선거를 지켜내는 마지막 방어선은 유권자라는 것이 선관위의 판단이다.
선관위는 딥페이크 등 인공지능 기술을 악용한 선거범죄가 앞으로 더욱 다양해질 가능성이 높다고 보고 있다. 영상 제작 기술이 빠르게 발전하면서 개인도 손쉽게 합성 콘텐츠를 만들 수 있게 됐고, 온라인 공간에서 허위 정보가 확산되는 속도 역시 이전보다 훨씬 빨라졌다는 분석이다.
선거는 후보자와 정당만의 과정이 아니라 유권자 모두가 함께 만들어 가는 민주주의의 절차다. 인공지능 기술이 선거를 혼탁하게 만드는 도구가 아니라 책임 있는 판단을 돕는 방향으로 활용되기 위해서는 유권자의 신중한 판단과 참여가 무엇보다 중요하다는 지적이다.
전남도 선관위 관계자는 "출처가 불분명한 영상이나 음성, 자극적인 메시지를 접했을 때는 무조건 공유하기보다 사실 여부를 먼저 확인하는 것이 중요하다"며 "딥페이크나 허위 정보로 의심되는 콘텐츠를 발견하면 즉시 선관위에 신고해 확산을 막는 데 동참해 달라"고 강조했다.