[단독] 지선 앞두고 ‘AI 유령’ 딥페이크 판치는데 X 삭제율은 30%대 불과

허위 영상 선거운동 1년 새 27배 급증…총선 389건→21대 대선 1만 건
6·3 지선 코앞인데 불법 게시물 3만 건…‘여론조사 왜곡’은 74%로 최다
5년간 선거철 불법 게시물 29만 건…고발·수사 등 강력조치 약 3000건

(시사저널=강윤서 기자)

선거철마다 반복되는 여론 왜곡, 그 수법이 갈수록 교묘해지고 있다. 21대 대선 때는 이재명 대통령이 김혜경 여사에게 욕설을 하는 딥페이크(Deep fake) 허위 영상물 유포 논란이 일었다. 6·3 지방선거를 앞두고는 한 입후보 예정자 A씨가 '외국 유명 시사 주간지에서 OO 발전을 이끌 인물로 A를 선정했다'는 내용을 담은 영상물을 AI로 제작 및 유포해 선거관리위원회가 고발했다. 지금도 인터넷엔 출마 후보자의 얼굴을 AI로 합성하고, 목소리를 입혀 자극적인 가짜뉴스로 선동하는 게시물이 쏟아지면서 유권자의 판단을 흐리고 있다.

과거에는 '권력'과 '조직' 중심으로 여론 조작이 발생했다면, 이제는 '혼자'서도 마음만 먹으면 여론을 뒤흔들 수 있는 시대가 온 것이다. 많은 국민은 여전히 2012년 이명박(MB) 정부 시절 국가정보원이 '민간인 댓글 부대'를 운영해 인터넷 게시글·댓글을 공작한 사건, 2018년 문재인 정부 시절 '드루킹 사건'을 기억한다. 국정원 사건 땐 무려 30개 팀(총 3500명)이 댓글 공작에 투입됐지만, 이후 발생한 드루킹 사건만 해도 공범이 불과 12명이었다. 당시 드루킹 일당은 매크로 프로그램을 사용해 더불어민주당에 유리하도록 포털 뉴스 기사에 대한 '공감'과 '비공감' 수를 조작했다.

8년이 지난 2026년, 기술은 더 발전했다. 누구든 AI 등을 이용해 순식간에 가짜뉴스를 제작하고 댓글 자동 게시 시스템을 만드는 게 가능하다. 특정 정당 지지자들이 댓글 조작 등을 통해 여론을 호도하는 일이 점점 쉬워지고 있는 현시점에서 선거를 앞두고 여론 조작 실태를 다시 짚어봐야 할 이유다.

여론 호도하는 'AI 이재명'? 아직도 떠돈다

실제 6·3 지방선거를 40여 일 앞두고 여론 왜곡·조작 행태는 빠르게 확산하고 있다. 중앙선거관리위원회를 통해 입수한 자료에 따르면, 적발된 허위사실공표 및 비방 등의 불법 게시물은 4월1일을 기준으로 무려 3만5304건에 달했다. 지방선거로만 보면, 직전 선거였던 2022년 지방선거(1만8912건) 때보다 약 2배 늘어났다. 선관위는 3만여 건의 허위 게시물 대부분에 대해 삭제 조치를 내렸다. 고발한 사건은 8건, 수사 의뢰는 1건, 경고 조치는 50건으로 나타났다.

특히 주목되는 불법 게시물은 딥페이크 영상 등을 이용한 행태다. 딥페이크를 활용한 선거운동이 전면 금지된 가운데 이번 지방선거에서만 3492건의 허위 영상물이 적발됐다. 선관위는 이 중 1건은 고발, 3건은 경고 조치했고, 나머지는 모두 삭제 조치했다. 딥페이크 관련 규정이 시행된 2024년 치러진 제22대 총선 때만 해도 선관위가 적발한 영상물은 389건에 그쳤다. 그러나 지난해 21대 대선에선 1만513건으로 약 27배로 급증했다. 지방선거는 총선과 대선 대비 투표율 등이 떨어지는데도 올해 검거된 딥페이크 선거운동은 꾸준히 늘어나는 추세다.

국회는 2023년 말 공직선거법을 개정해 2024년 1월29일부터 딥페이크를 활용한 선거운동을 전면 금지했다. 이에 따라 선거일 전 90일 동안 AI 등을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지·영상 등의 딥페이크 게시물을 선거운동을 위해 제작·편집·유포·상영·게시하는 행위는 불법이다. 이를 위반할 경우 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금에 처해질 수 있다.

그럼에도 딥페이크 선거운동은 다른 불법 게시물에 비해 삭제율이 저조하다. 특히 지난해 대선에선 여론을 왜곡한 전체 댓글 5326건 가운데 약 44%(2349건)는 딥페이크 제작물로, 댓글을 통해 딥페이크 선거운동을 펼치는 행태가 두드러졌다. 그러나 이 가운데 삭제된 비율은 54%에 불과했다. 나머지 절반은 여전히 삭제되지 않아 유권자를 호도하고 있다는 비판이 나온다.

정부 "AI 딥페이크, 민주주의에 새로운 위협"

딥페이크 선거운동이 새로운 유형의 여론 조작 행태라면, 여론조사 결과 왜곡은 '뉴 노멀'이 되고 있다. 선관위 자료에 따르면, 최근 5년간 진행된 다섯 번의 선거에서 적발된 허위사실 공표 및 비방 등의 불법 게시물은 총 28만9473건이었다. 이 가운데 여론조사 공표 및 보도 금지를 위반한 게시물은 70%(20만2606건)로 가장 많은 비중을 차지했다. 실수든 고의든 특정 후보에게 유리한 지표를 부각하거나 수치를 조작해 표심을 흔들려는 시도가 심각한 상황임을 보여준다.

선거별로 보면, 불법 여론조사 결과 공표·보도 사례는 민주당이 180석의 역대 최다 의석수를 확보하며 압승한 22대 총선에서 6만1606건으로 가장 많았다. 다음은 윤석열 전 대통령이 당선된 20대 대선에서 5만5520건, 이재명 대통령이 당선된 21대 대선에선 4만4353건 등의 순위로 나타났다. 4년 전 지방선거에선 1만4921건이 적발됐다. 이번 6·3 지방선거에서는 2만6206건으로, 직전 지방선거 대비 2배가량 늘었다. 이는 올 선거 불법 게시물 가운데 74%를 차지한다. 선관위는 이 가운데 7건은 경고 조치, 3건은 고발, 1건은 경찰에 수사를 의뢰했다.

최근 정치권에선 정원오 민주당 서울시장 후보의 여론조사 재가공·왜곡 의혹 논란이 불거지기도 했다. 정 후보 측은 3가지 여론조사의 '후보 적합도' 문항에서 민주당 지지층의 '모름·무응답' 수치를 제외한 뒤 이를 백분율로 재환산해 게재했다. 또 4월4일에는 민주당 지지층 가운데 '행정 능력'을 최우선 자질로 꼽은 비율이 67.9%로 나타난 여론조사 결과를, 4.1%포인트 높은 72%로 오기해 캠프 블로그에 올리기도 했다. 선관위는 4월7일 경찰에 관련 자료를 전부 이첩했다.

게시물 삭제 조치가 가짜뉴스 확산 속도를 따라가지 못하고 있다는 문제점도 있다. 네이버 등 국내 포털의 삭제 이행률은 사실상 100%를 유지하고 있으나, 해외 플랫폼의 대응은 미온적이다. 올해 지방선거에서 X(옛 트위터) 삭제율은 37%에 불과하다. 불법 게시물이 가장 많이 게재된 메타(페이스북, 인스타)는 선관위가 1만8453건에 대해 삭제를 요청했지만, 이 중 4192건(23%)은 여전히 인터넷에 떠돌고 있다. 유튜브 역시 적발된 불법 영상 중 26%는 그대로 남아있다.

이에 고발전도 확산하는 분위기다. 이 대통령이 당선된 대선에선 고발·수사의뢰 등의 강제조치는 1395건으로, 윤 전 대통령이 당선된 대선(281건) 대비 5배 가까이 폭증한 것으로 나타났다. 여론 왜곡 및 조작 행태가 진화하는 동시에 이에 대한 대응 역시 더 공격적인 양상을 띠고 있는 것이다. 관련해 정부는 과거 선거보다 허위사실 유포 등 선거법 위반 사안이 50% 정도 늘고 있다며 생성형 AI로 만든 딥페이크 영상을 '민주주의에 대한 새로운 위협'이라고 규정했다. 아울러 탐지 모델을 선관위에 제공해 6월 선거 기간 허위 정보 유포를 신속히 차단하겠다는 방침을 밝혔다.