“딥페이크 영상 선거에 쓰면 불법…‘AI 목소리’ 노래도 안 됩니다”

KISO-중앙선관위, 선거기간 서비스 운영 간담회 개최…AI 선거운동 주의보

(시사저널=조주연 디지털팀 기자)

한국인터넷자율정책기구(KISO)와 중앙선거관리위원회가 지난 4일 개최한 '선거기간 인터넷 정보서비스 운영을 위한 간담회' 모습 ⓒKISO 제공

지방선거가 90일 앞으로 다가온 가운데 국내 인터넷 플랫폼사들이 인공지능(AI)을 활용한 불법 선거 운동에 대한 대응책 준비에 나섰다. 

한국인터넷자율정책기구(KISO)와 중앙선거관리위원회는 선거 기간 인터넷 정보서비스 운영을 위한 간담회를 열고, 인공지능(AI) 생성물을 활용한 불법 선거 운동 사례 등을 점검했다고 5일 밝혔다. 간담회에서 중앙선관위 측은 공직선거법 위반 게시물에 대한 삭제 요청에 KISO 회원사들이 적극 협조해 달라고 당부했다.

아울러 지난 제21대 대선에서 발생한 AI 불법 선거 운동 사례를 공유하고, 딥페이크를 통한 불법 선거 홍보 경계령을 내렸다. 지난 대선 기간 특정 후보자가 죄수복을 입고 수감된 사진과 죄수복을 입고 울고 있는 AI 합성 이미지가 인터넷에서 퍼졌고, 해당 이미지를 여러 번 올린 게시자는 선관위 고발 조치 뒤 기소돼 현재 1심 재판이 진행 중이다.

선관위 측은 "딥페이크 기술을 이용해 특정 후보자를 당선 또는 낙선되게 하려는 목적의 '딥보이스'로 제작한 선거 운동 노래의 게시 역시 불법"이라며 주의를 당부했다. 

현행 공직선거법에서는 AI를 써서 만든 실제와 구분하기 어려운 가상의 이미지·영상뿐 아니라 음향도 딥페이크 영상으로 규정한다. 이를 이용한 선거운동은 불법이다. 

KISO는 이날부터 전 회원사에 '선거 관련 인터넷 정보서비스 기준에 관한 정책 규정'을 적용했다. 이에 따라 오는 6월3일 지방 선거일까지 KISO 회원인 플랫폼사들은 후보자 등이 선거 관련 게시물 삭제 등 조치를 요청하면 중앙선관위에 신고하도록 안내한다. 이후에는 중앙선관위의 결정에 따른다. 

회원사에는 네이버, 카카오, 네이트, 줌인터넷 등 포털사와 클리앙, 오늘의유머, SLR클럽, 뽐뿌, 인벤 등 인터넷 커뮤니티가 가입돼 있다.