네이버, 총선 앞두고 AI 댓글·딥페이크 탐지 강화...매크로·어뷰징 막는다

〈자료 네이버〉

네이버가 오는 4월 예정된 제22대 국회의원 선거를 앞두고 인공지능(AI) 댓글, 딥페이크 탐지 기능을 도입한다. 선거 관련 허위 댓글 신고 기능과 AI가 생성한 기사를 판별하는 기능도 적용한다.

네이버는 1일 네이버 다이어리 블로그에 이 같은 개선방안을 공지했다. 제22대 국회의원 선거를 앞두고 대국민 플랫폼으로서 기능을 강화하기 위해서다.

네이버는 우선 24시간 모니터링 시스템을 강화하고, AI 댓글, 딥페이크 등 신규 어뷰징 패턴을 탐지한다. 뉴스 댓글 집중 모니터링 기간 동안 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화한다. 각 부서 핫라인을 구축해 대응한다.

문장 맥락을 파악해 혐오, 비하, 차별표현까지 걸러내는 클린봇과 더불어 매크로 사용 여부를 심층적으로 감지·분석한다. AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속적으로 분석하고 업데이트할 계획이다.

선거 관련 허위 댓글 신고 기능을 적용하고 신고센터도 신설한다. 이용자가 직접 선거 관련 허위 정보 뉴스 댓글을 신고하도록 기능을 만든다. 별도 신고 센터 영역을 신설해 선거관리위원회 채널로 이동하도록 연결한다.

뉴스 댓글 이외에도 카페·블로그 등 네이버 서비스 전반의 허위 댓글을 막기 위해 해당 업데이트를 동일하게 적용한다. 아울러 선거 기간 이후에도 기사형태의 허위게시물 신고에 대한 'KISO 가짜뉴스 신고센터 채널' 안내도 함께 추가한다. 이 기능은 이달 안에 업데이트한다.

〈자료 네이버〉

AI가 생성한 기사는 본문 상단에 관련 내용을 표기한다. 1일부터 언론사가 자동 로직으로 생성·전송한 기사에는 “이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성되었습니다”라는 문구를 표기해 본문 상단과 하단에 노출한다.

이외 언론사의 댓글 권한을 강화하고 이달 안에 선거 관련 특집페이지를 선보인다. 네이버는 지난 11일부터 언론사 홈 내 '총선' 섹션을 신설한 바 있다. 기사 본문의 댓글 운영 여부는 언론사가 직접 설정할 수 있다. 네이버는 선거 관련 허위 정보 유포와 조직적 매크로, 어뷰징을 막는 방안도 마련한다.

변상근 기자 sgbyun@etnews.com