규제 나선 韓… 총선 90일전부터 ‘딥페이크 운동’ 금지

여야 공직선거법 개정안 통과
선관위는 AI 특별대응팀 가동

내년 4월 국회의원 총선거를 앞둔 한국에서도 인공지능(AI)이 선거에 악용될 수 있다는 우려가 점점 커지고 있다. 최근 급속한 AI 기술의 발달로 한층 고도화된 허위 콘텐츠는 선거의 향배를 결정적으로 좌우할 수 있어, 여야 정치권과 중앙선거관리위원회는 악영향을 사전에 차단하기 위한 대책 마련에 고심하고 있다.

여야는 특정 인물의 얼굴을 합성하는 딥페이크 등 AI 기술의 선거운동 활용을 규제하는 내용의 공직선거법 개정안을 지난 20일 국회 본회의에서 통과시켰다. 재석 184인 중 찬성 184인의 만장일치 통과다. 개정안은 선거일 90일 전까지는 선거운동을 위해 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시할 수 있도록 했지만, 해당 정보가 가상 정보라는 사실을 표시하도록 의무화했다. 이를 위반한 경우 1000만 원 이하의 과태료를 부과하고, 허위사실공표죄는 가중 처벌한다. 또 선거일 90일 전부터 선거일까지는 딥페이크 영상을 제작·편집·유포·상영 또는 게시하는 행위 자체를 금지했다. 이를 위반하면 7년 이하의 징역 또는 1000만 원 이상 5000만 원 이하의 벌금에 처할 수 있다. 지난 대선에 등장했던 ‘AI 윤석열’ ‘AI 이재명’과 같은 딥페이크 가상 후보를 내년 1월 11일부터 총선 때까지는 볼 수 없게 된 셈이다.

중앙선관위도 내년 총선에서 생성형 AI를 활용한 콘텐츠가 유권자의 판단을 왜곡하지 않도록 일찌감치 관련 기준을 마련하고 특별대응팀을 편성했다. 중앙선관위에 따르면 7월 ‘생성형 AI를 활용한 선거운동 등 관련 운용기준’을 마련한 데 이어 8월부턴 ‘허위사실공표·비방 특별대응팀(AI 전담팀)’을 가동했다. AI 전담팀은 AI로 생성한 이미지·동영상 등을 감별하고, 게시물 간 연관성을 탐지·추적해 선거 관련 여론조작 여부를 판별하는 등 허위사실 공표·비방에 신속히 대응하는 역할을 수행한다. 내년 2월부터는 AI 감별반과 데이터분석반도 추가로 운영할 예정인 것으로 전해졌다.

중앙선관위는 이를 통해 AI로 생성된 콘텐츠 여부를 판독하는 정확성을 높이는 것은 물론, AI를 활용해 특정 후보 지지·반대 게시물을 조직적으로 올리는 행위도 탐지하겠다는 계획이다.

조재연 기자 jaeyeon@munhwa.com