6·3 지방선거, 진짜 같은 AI 영상 ‘전면 금지’... “시대 흐름 역행” vs “선거는 보수적으로”

최근 경기 수원시 영통구 경기도선거관리위원회에서 사이버공정선거지원단 관계자들이 '딥페이크 위반 및 허위사실비방' 등 사이버선거범죄 행위를 모니터링 하고 있다. /뉴시스

6·3 지방선거를 앞두고 정치권과 IT 업계에 AI(인공지능)로 만든 영상인 ‘딥페이크’ 경계령이 떨어졌다. 정부가 생성형 AI 기술을 활용한 선거운동을 엄격히 규제하겠다는 방침을 재확인하면서, 이를 둘러싸고 ‘시대착오적 규제’라는 비판과 ‘민주주의를 지키기 위한 최소한의 안전장치’라는 옹호가 맞서고 있다.

◇정부 “딥페이크는 민주주의에 대한 새로운 위협”

최근 정부는 지방선거를 앞두고 딥페이크 사용에 대한 엄중 경고를 했다. 김민석 국무총리는 지난 14일 오후 정부서울청사에서 공명선거 관계 장관 회의를 주재하며 생성형 AI 기술에 대한 강력한 규제 의지를 표명했다. 김 총리는 “생성형 AI 기술의 급격한 발전이 선거 환경을 근본적으로 바꿔 놓고 있다”며 “실제와 구분하기 어려운 딥페이크가 유권자의 판단을 흐리고 민주주의의 근간을 흔드는 새로운 위협이 되고 있다”고 말했다.

2023년 말 신설된 현행 공직선거법 제82조의8에 따르면, 선거일 전 90일부터 선거일까지 실제와 구분하기 어려운 가상의 음향, 이미지, 영상을 제작하거나 유포하는 행위는 원천적으로 금지된다. 다만 투표 독려 등 선거운동에 해당하지 않는 경우나, 누가 봐도 가상임을 알 수 있는 영상에 한해서만 예외가 인정된다. 정부는 이번 지방선거에 이 규정을 엄격히 적용해 위반 시 엄중 처벌할 방침이다.

◇AI 업계 “기술 자체가 아닌 내용을 규제해야”

하지만 관련 업계에서는 비판의 목소리가 나온다. AI 기술 활용 자체를 막는 것은 전 산업 분야에서 추진 중인 AX(AI 전환) 흐름에 역행하는 과도한 처사라는 지적이다. 가짜 뉴스 같은 내용은 막되, 기술 자체는 선거 활동 활성화를 위해 풀어줘야 한다는 것이다. 최경진 가천대 법학과 교수(인공지능법학회장)는 “AI라는 도구를 활용하면 후보자가 훨씬 빠르고 저렴하게 선거 활동을 할 수 있도록 돕는다”며 “이는 유권자에게 더 많은 정보를 전달해 민주주의 활성화를 돕는 측면이 있다. 규제의 초점은 ‘AI 사용 여부’가 아니라 ‘허위 사실 유포나 비방 여부’에 맞춰져야 한다”고 말했다.

유통 경로에 따른 역차별 문제도 제기된다. 유튜브나 틱톡 등 해외 플랫폼의 경우 국내법에 따른 즉각적인 삭제 조치가 현실적으로 어렵다. 결국 정작 걸러내야 할 악의적인 딥페이크는 국외 서버를 통해 퍼져나가고, 국내 후보자들의 정당한 신기술 활용 기회만 박탈당하는 결과를 초래할 수 있다는 주장이 나온다.

◇미래학자 “선거는 신뢰가 제일 중요”

반면 딥페이크의 파급력이 통제 불능 수준이라는 점을 고려할 때, 선거만큼은 보수적으로 접근해야 한다는 목소리도 높다. 기술적 제어 장치가 완벽하지 않은 상태에서 규제를 완화했다가, 선거일 직전 터진 가짜 영상 하나로 민심이 왜곡될 수도 있기 때문이다.

실제 업계에서는 쏟아지는 딥페이크를 구분하는 게 기술적으로 어려워, 인간이 만들었다는 의미인 인간 인증 표식 도입을 고려하고 있다. 스웨덴 출신 미래학자 닉 보스트롬은 본지에 “선거는 효율적일 필요가 없다”며 “선거는 매우 신뢰할 수 있어야 하고, 다소 지루하더라도 조작하기 극도로 어려워야 한다”고 말했다.