선관위, ‘딥페이크 특별팀’ 가동…“AI 사진·영상 활용 선거운동 주의”

중앙선거관리위원회 깃발. 연합뉴스

중앙선거관리위원회는 딥페이크 영상 등을 활용한 위법 선거운동을 막기 위해 ‘허위사실·비방 에이아이(AI) 딥페이크 특별대응팀’을 운영한다고 23일 밝혔다.

선관위는 이날 보도자료를 내어 “대통령 선거가 40여일 앞으로 다가오면서 생성형 에이아이로 제작한 영상이나 이미지 등을 사회관계망서비스(SNS)나 커뮤니티 사이트에서 선거운동을 위해 사용하게 되면 공직선거법에 위반될 수 있다”고 밝혔다. 특정 후보를 지지·비방할 목적으로 딥페이크 이미지·영상물을 제작해 온라인 커뮤니티 등에 게시할 경우 선거법 위반으로 7년 이하의 징역 또는 1천만원 이상 5천만원 이하의 벌금에 처해질 수 있다.

선관위는 지난 9일부터 중앙과 시·도 선관위에 특별대응팀을 설치했다. 선관위 특별대응팀은 온라인 위법 게시물을 상시 모니터링하고, 위반 혐의가 있는 게시물은 포털사 등에 삭제를 요청하고 있다. 특별대응팀은 시청각적 탐지, 프로그램 감별, 에이아이 전문가 감별 등 3단계를 거쳐 딥페이크 영상과 이미지를 감별한다.

선관위는 “허위사실 공표 및 비방 행위는 후보자에게 회복하기 어려운 피해를 줄 수 있고 유권자의 올바른 선택을 방해해 선거 결과를 왜곡시킬 수 있는 만큼, 예방과 확산 방지에 최선의 노력을 다할 예정”이라며 “특히 파급력이 큰 악의적인 딥페이크 영상 유포자는 고발 등 엄중하게 대응할 방침”이라고 밝혔다.

김해정 기자 sea@hani.co.kr