‘죄수복 입은 대선 후보’ 딥페이크 제작 유튜버, 선관위 첫 고발

중앙선거관리위원회(선관위)가 제21대 대통령 선거 후보 딥페이크 영상을 제작·유포한 유튜버 등 3명을 공직선거법 위반 혐의로 고발했다.

2023년 12월 관련 법규가 제정된 이래 선관위가 딥페이크물 제작·유포자를 고발한 것은 이번이 처음이다.

선관위는 29일 보도자료를 통해 “선거가 임박한 시기에 후보자의 당선 또는 낙선 목적으로 인공지능(AI) 기술을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상을 제작·게시한 유튜브 채널 운영자 3명을 선거법 위반 혐의로 수사기관에 고발했다”고 밝혔다.

선관위에 따르면 고발당한 3명은 각각 인터넷 커뮤니티 게시판에 후보자가 죄수복을 입고 감옥 안에 수감된 이미지 등을 총 35회 게시한 혐의를 받고 있다. 다수가 구독하는 유튜브 채널에 AI로 구현한 여성 아나운서를 이용해 뉴스 형식으로 후보자의 당선 또는 낙선을 도모하는 내용으로 제작한 영상을 게시한 혐의와 SNS에 특정 후보자에 대한 부정적인 이미지를 주는 글과 영상을 딥페이크로 제작해 게시·유포한 혐의도 있다. 해당 제작물은 더불어민주당 이재명 대선 후보와 국민의힘 김문수 대선 후보와 관련한 내용으로 알려졌다.

선관위는 “선거가 일주일도 남지 않은 만큼 사이버상 위법행위 단속에 역량을 집중하고 있다”며 “유권자가 AI를 활용하여 영상이나 이미지를 제작하여 활용할 때 선거법에 위반되지 않도록 주의를 기울여 달라”고 당부했다.

23일 서울역 대합실 TV로 제21대 대통령선거 2차 후보자 토론회가 생중계되고 있다. 연합뉴스