29일부터 AI딥페이크 선거운동 금지...당내 경선엔 허용

지난 10일 경기도 수원시 영통구 경기도선거관리위원회 사이버공정선거지원단실에서 선관위 직원들이 흑색선전, 비방, 허위사실 공표 등 사이버 선거범죄 근절 홍보 퍼포먼스를 진행하고 있다./뉴시스

오는 29일부터 인공지능(AI) 기반 ‘딥페이크(Deep fake)’를 활용한 선거운동이 전면 금지된다. 총선에서 후보자 얼굴을 합성한 딥페이크 영상·이미지가 쓰이고, 가짜 뉴스로 유포될 경우 유권자의 판단을 흐릴 수 있기 때문이다. 여야는 지난달 20일 선거 전 90일 동안 딥페이크 선거운동을 금지하는 공직선거법 개정안을 국회 본회의서 통과시켰다.

18일 중앙선거관리위원회가 발표한 딥페이크 종합 대책에 따르면, 선거운동 활용이 금지되는 것은 AI 기술로 만든 ‘실제와 구분하기 어려운’ 가상의 음향·이미지·영상 등이다. 지난 대선 때 화제를 모은 ‘AI 윤석열’ ‘AI 이재명’을 앞세운 선거운동은 금지된다. 다만 특정 정치인의 모습을 한 이모티콘이나 캐리커처, 포토샵이나 그림판을 이용해 만들어진 콘텐츠는 금지 대상이 아니다.

선관위는 AI 모니터링 전담 요원과 AI 전문가로 구성된 감별반 등을 꾸려 상시 모니터링에 나선다. 이들이 불법 딥페이크 게시물을 발견하면, 네이버·다음 같은 포털이나 AI 플랫폼 관계사 등에 삭제 요청을 한다. 만약 포털이나 게시자 모두 삭제 요청에 불응할 경우엔 양측에 모두 과태료가 부과된다. 선관위 측은 “선거일이 임박한 시기엔 불법 AI 콘텐츠에 대한 조치 수준을 최대한으로 높여 대응하겠다”고 했다. 이미 인터넷에 올라가 있는 딥페이크 콘텐츠는 삭제해야 한다.

다만 특정 정당이나 후보를 지지하는 내용이 없는 단순 ‘투표 참여 권유’에는 딥페이크를 활용할 수 있다. 이 밖에 의정활동 보고나 경선 홍보물 발송, 경선사무소 설치, 합동연설회와 같은 당내 경선 운동에도 활용이 가능하다. 선관위는 “그러나 이 과정에서 사실상의 선거 운동을 하는 경우엔 법 위반에 해당된다”고 했다.

선관위는 AI 프로그램 등을 이용한 댓글 자동 게시 의심 사례가 발견되면 수사기관에 신속히 통보하기로 했다. 특정 정당 지지자들이 기사 댓글 조작을 통해 여론을 호도하는 일을 막겠다는 것이다.