선관위, 딥페이크 영상 예방·단속 총력…"위법시 엄정 대응"

공직선거법 개정 따라 딥페이크 관련 운용기준 마련
AI 전담반, 포털 업무협약 등으로 위법엔 엄정 대응 방침

(서울=뉴스1) 강수련 기자 = 중앙선거관리위원회는 18일 딥페이크 영상 등을 이용한 선거운동 관련 위법행위 예방·단속 종합대책을 발표했다.

선관위는 이날 보도자료를 통해 딥페이크 영상 등 관련 법규운용기준을 마련했다고 밝혔다.

앞서 지난달 20일 국회 본회의에서 누구든지 선거일 전 90일부터 선거일까지 선거운동을 위해 딥페이크영상 등을 제작·편집·유포·상영·게시할 수 없도록 금지하는 공직선거법 개정안이 통과됐다.

이에 따라 사용자가 직접 조작하는 포토샵, 그림판 등으로 만든 음향·이미지·영상은 이용할 수 있으나, 인공지능 기술을 활용한 기능이 포함된 프로그램으로 만든 음향·이미지·영상은 제한될 수 있다.

또 공직선거법을 위반하지 않는 범위에서 의정활동 보고, 통상적인 정당활동, 당내경선운동, 투표참여 권유활동에 딥페이크 영상등을 이용할 수 있다.

선관위는 지난 11일부터 AI 모니터링 전담요원과 AI 전문가로 구성된 감별반을 확대 편성, 운영하는 등 준비에 나섰다. 시각적 탐지, 범용 프로그램 활용, AI 자문위원 감별 등 3단계 감별을 통해 신뢰도를 높인다.

또 포털·커뮤니티사이트 초기화면에 신고·제보 배너를 게시하는 등 AI콘텐츠가 선거운동에 활용되는지도 감시한다.

선관위는 언론보도, 포털·SNS사와 업무협조를 통해 유권자와 후보자 등에게 운용기준을 안내하고, 악의적·조직적 제작·유포 행위에 대해 엄중 조사·조치할 예정이다.

위법성이 의심되는 AI 콘텐츠는 선제적으로 삭제 조치하고, 삭제요청에 불응하는 경우 과태료 등을 적극 부과한다. 또한 AI 댓글 자동 생성 프로그램 등을 이용한 댓글 자동게시가 의심되면 수사기관에 신속히 통보할 예정이다.

중앙선관위는 "가용역량을 총동원해 위법행위에 신속하고 엄정하게 대응할 방침"이라고 밝혔다.

training@news1.kr

정치