[단독] AI發 가짜뉴스… 선관위 칼 뺀다

총선 앞두고 대응 역량 강화
AI감별반·데이터분석반 신설
국회 AI생성물 법안 통과 촉구
2024년 총선 개표 육안심사 강화

미국에서는 올해 들어 조 바이든 대통령이 성 소수자 혐오 연설을 하는 영상이나 도널드 트럼프 전 대통령이 수갑을 차고 경찰에 연행되는 사진 등 인공지능(AI)으로 만든 가짜 생성물들이 온라인에 퍼져 논란을 일으켰다. 국내에서는 생성형 AI를 악용해 가짜뉴스를 퍼뜨린 사례가 발견되지 않았지만 각종 선거에서 가짜뉴스 논란은 끊이지 않았다.

중앙선거관리위원회가 내년 4월 22대 국회의원 총선을 앞두고 가짜뉴스 방지에 칼을 빼 들었다.

사진=게티이미지뱅크

14일 중앙선관위 관계자들에 따르면 현재 AI 전담반을 운영 중인 중앙선관위는 앞으로 ‘AI 감별반’과 ‘데이터분석반’을 추가로 운영할 계획인 것으로 파악됐다. 중앙선관위는 내년 2월쯤 검찰·경찰·한국인터넷진흥원 등 유관기관과 네이버·카카오·구글·메타 등 기업이 함께하는 대책회의를 열어 공조를 요청하고 협업할 계획이다.

김용빈 중앙선관위 사무총장은 지난 6일 세계일보와의 인터뷰에서 “가짜뉴스 문제는 정말 심각하다”며 “1997년 대선 당시 ‘총풍사건’처럼 선거 직전에 상대방에게 불리한 가짜뉴스를 만들어 터뜨려놓고 선거에 영향을 주면 선거 이후 처벌은 받더라도 이미 지난 일을 어쩔 수 없게 되는 것 아니겠나”라고 지적했다. 그러면서 “선관위는 최선을 다해 가짜뉴스를 막기 위해 대응팀을 만들고 유관기관에도 협조를 요청했다”고 설명했다.

선관위는 지난 7월 ‘생성형 AI를 활용한 선거운동 등 관련 운용기준’을 마련했고 8월부터 ‘허위사실공표·비방 특별대응팀’ 내 AI 전담반을 편성해 운영 중이다. 김 총장은 현재 운영 중인 AI 전담반에 추가로 내년 2월10일부터는 AI 감별반과 데이터분석반을 운영할 계획이라고 밝혔다.

이를 통해 AI 생성 콘텐츠 여부 판독률을 제고하고 AI 등을 활용해 조직적으로 특정 후보 지지·반대 게시물을 올리는 행위를 탐지할 예정이다. 다만 김 총장은 “문제는 관련 법령이 아직 마련되지 않아 공직선거법상 허위사실공표죄만으로 처벌하는 것밖엔 특별한 수가 없다는 점”이라며 “이미 국회에서도 AI 생성물 관련 법안이 여럿 발의돼 있는데 그 법안들이 좀 통과됐으면 좋겠다”고 말했다.

도널드 트럼프 전 미국 대통령이 경찰에 연행되는 가짜 사진

AI를 선거에 긍정적으로 활용하는 방안에 대해서도 고민 중이다. 김 총장은 “생성형 AI의 이점도 많다고 생각하기 때문에 선관위도 지난해부터 정보화 사업의 일환으로 내부 행정 관리 시스템이나 검색엔진 형식으로 업무에 활용할 수 있는 방법 등을 고민 중”이라고 말했다.

한편 중앙선관위는 내년 총선 개표 때 투표지 육안 심사 절차를 강화하기로 했다. 사무원이 일일이 확인하는 사실상 ‘수(手)개표’를 하겠다는 취지다.

박지원 기자 g1@segye.com