[단독] 딥페이크 여론조작 우려에 네이버, ‘선거허위정보 신고센터’ 설치

경기도 성남시 분당구 네이버 사옥 모습. 연합뉴스

총선을 앞두고 딥페이크(Deepfake·조작), 인공지능(AI) 자동댓글을 통해 여론이 조작될 가능성이 우려되는 가운데, 네이버가 ‘선거 허위정보 신고센터’를 개설하기로 했다.

국민의힘 미디어정책조정특위위원장을 맡고 있는 윤두현 의원에 따르면 네이버는 2월 중 ‘선거 허위정보 신고센터’를 포털 내에 개설해 사용자가 AI로 작성된 허위 사진·영상·글을 신고할 수 있도록 조치한다. 뉴스, 블로그 및 카페 글 등이 대상이다. 딥페이크 콘텐츠는 프로그램을 스마트폰으로 쉽게 다운로드 받아 2~3분 이내에 만들 수 있어 문제인데 이를 최대한 거르겠다는 것이다.

예를 들어 네이버에 올라와 있는 뉴스 중 AI에 의해 조작된 것으로 의심되는 콘텐츠가 있다면 사용자는 스마트폰이나 PC를 통해 ‘선거 관련 허위정보 등이 포함돼 있다’고 신고할 수 있다. 특정 후보의 당선이나 낙선에 영향을 줄 수 있기 때문에 직후 네이버는 신고된 게시물의 AI조작 여부를 판단한 뒤 비공개 처리한다. 또 네이버는 중앙선거관리위원회에 해당 내용을 전달해 공직선거법 위반 여부도 가린다.

국민의힘 미디어정책조정특위 윤두현 위원장이 지난해 7월 4일 오전 국회에서 열린 포털과 댓글 저널리즘 세미나에서 발언하고 있다. 연합뉴스

네이버는 1일부터 AI가 작성한 기사는 ‘이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성됐습니다’는 별도 표시를 했다. 별도로 딥페이크, AI자동댓글에 대해 24시간 모니터링도 한다.

다만 실효성 문제는 여전히 남는다. 고도의 AI기술과 매크로를 통해 자동 댓글을 무작위로 달거나, 진위를 가리기 어려운 딥페이크 콘텐츠를 마구잡이로 퍼 나를 경우 여론 전파를 단기간에 막기 어렵기 때문이다.

윤 의원은 “네이버가 불법적이고 변칙적인 시도에 대해 모니터링 강화 등 대안을 제시했지만 제일 중요한 부분은 네이버의 책임 강화”라며 “단순히 대책 발표만 할 것이 아니라 실행력에 중점을 두고 대응해나가야 할 것”이라고 말했다.

김효성 기자 kim.hyoseong@joongang.co.kr