오늘부터 AI 딥페이크 선거운동 금지…선관위, 62명 전담반 운영

지난달 공직선거법 개정 따라 딥페이크 관련 운용기준 마련
모니터링 59명, 감별 자문 3명…포털 업무협약 등 엄정대응

제22대 국회의원선거 90여일 앞둔 10일 경기 수원시 영통구 경기도선거관리위원회 사이버공정선거지원단실에서 관계자들이 사이버선거범죄 근절 퍼포먼스를 실시하고 있다. 2023년 12월28일 개정된 공직선거법에 따라 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시할 수 없다. 다만 부칙에 따라 공포 후 1개월이 경과한 오는 29일부터 금지된다. 2024.1.10/뉴스1 ⓒ News1 김영운 기자

(서울=뉴스1) 노선웅 강수련 기자 = 총선을 불과 70여일 앞둔 가운데 29일부터 인공지능(AI) 기반 '딥페이크(Deep fake)' 영상을 이용한 선거운동이 금지된다. 총선을 앞두고 악용 우려가 나오자 중앙선거관리위원회는 60여명 규모의 특별 전담반을 꾸리는 등 본격적인 예방 및 단속 활동을 예고했다.

선관위에 따르면 이날부터 AI 딥페이크 영상을 활용한 선거운동이 전면 금지된다. 지난해 12월28일 개정된 공직선거법에 따라 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시할 수 없다.

다만 부칙에 따라 공포 후 1개월이 경과한 29일부터 금지되면서 이날부터 사용자가 직접 조작하는 포토샵, 그림판 등으로 만든 음향·이미지·영상을 제외한, 인공지능 기능이 포함된 프로그램으로 만든 음향·이미지·영상의 활용은 제한된다.

다만 공직선거법을 위반하지 않는 범위에서 의정활동 보고, 통상적인 정당 활동, 당내경선 운동, 투표 참여권유 활동에 딥페이크 영상 등을 이용할 수 있다.

이 같은 개정법 통과에도 AI 딥페이크 영상 등을 활용한 가짜뉴스 유포는 선거를 앞두고 치명적 타격을 입힐 수 있다는 우려가 나왔다. 특히 미국 등 해외에서도 조 바이든 대통령이 성 소수자 혐오 연설을 하는 영상 등 AI 기반 딥페이크 영상물이 퍼져 큰 파장이 인 바 있어 정치권에서도 대응책 마련을 요구하는 목소리가 이어졌다.

이에 선관위도 지난 11일부터 AI 모니터링 전담 요원과 AI 전문가로 구성된 특별 전담반을 확대 편성해 운영하는 등 본격적인 대비에 나섰다.

전담반은 59명의 AI 모니터링 전담 요원(중앙선관위 5명, 시도선관위 54명)과 AI 감별 자문위원 3명을 두는 등 총 62명으로 구성됐다. 이들은 시각적 탐지와 범용 프로그램 활용, AI 자문위원 감별 등 3단계로 세분화된 감별을 실시할 예정이다.

또 포털·커뮤니티사이트 초기화면에 신고·제보 배너를 게시하는 등 AI 콘텐츠가 선거운동에 활용되는지도 감시하는 등 위법행위에 대한 예방과 단속을 강화했다.

이들은 언론보도, 포털·SNS 사와 업무협조를 통해 유권자와 후보자 등에게 운용 기준을 안내하고, 가용역량을 총동원해 악의적·조직적 제작·유포 행위에 대해 엄중 조사·조치할 예정이라며 강력 대응을 예고하기도 했다.

이에 따라 위법성이 의심되는 AI 콘텐츠는 선제적으로 삭제 조치하고, 삭제요청에 불응하는 경우 과태료 등을 적극 부과하는 한편 AI 댓글 자동 생성 프로그램 등을 이용한 댓글 자동 게시가 의심되면 수사기관에 신속히 통보할 예정이다.

중앙선관위는 "누구든지 오늘부터는 선거운동을 위해 인공지능 기술 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등을 제작, 편집, 유포, 상영, 게시할 수 없다"며 "포토샵, 그림판과 같이 사용자가 직접 조작하는 프로그램을 이용하는 것은 제한되지 않지만, 인공지능 기술을 활용한 기능이 포함된 프로그램으로 만든 음향, 이미지, 영상은 제한 대상이 될 수 있다"고 말했다.

이어 "선거운동 목적 가상의 딥페이크 영상 등을 제작하거나 유포하지 않아야 하고, 법에 위반되는 AI 콘텐츠를 2차, 3차로 퍼 나르는 경우 법에 위반되므로 주의가 필요하다"며 "위반 게시물로 의심되는 경우 관할 선관위로 신속히 제보할 것을 당부드린다"고 밝혔다.

bueno@news1.kr