네이버, 선거 관련 '허위 댓글 신고 기능' 적용

"생성형 AI 서비스 선거 관련 정보·딥페이크 콘텐츠 이용 주의해야"

(지디넷코리아=최다래 기자)네이버가 4월 10일 제22대 국회의원 선거를 앞두고, 선거 관련 허위 정보 확산을 막기 위한 '뉴스 댓글 신고' 기능을 적용했다.

28일 네이버 공지에 따르면, 이날부터 선거 관련 허위정보 등이 포함된 댓글을 신고할 수 있다.

또 네이버는 신고센터 메인 페이지에 ‘선거 관련 허위 정보 신고’ 채널을 개설하고, 선거에 영향을 줄 수 있는 허위 정보 신고가 원활하게 진행될 수 있도록 신고 방법 등 관련 정보를 제공할 예정이다.

네이버 선거 관련 허위 정보 신고 기능 추가

명예훼손 등 권리보호센터를 통해 접수되는 게시 중단 요청의 경우 선거 출마 후보자 등 관련인으로부터의 요청은 선거 관련법과 KISO 선거 관련 정책에 따라 운영될 예정이다. 게시물에 대한 임시조치는 선거관리위원회 결정에 의해 이뤄진다. 네이버는 관련 요청이 접수되는 경우 선거관리위원회로 신고할 수 있도록 안내 중이다.

아울러 네이버는 뉴스 댓글 집중 모니터링 기간 동안 전담 담당자를 확충하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생시 빠르게 대응해 나갈 예정이다.

또 네이버는 이날 공식 블로그를 통해 생성형 AI 서비스를 통한 선거 관련 정보 이용 시 주의가 필요하다고도 알렸다. 

네이버는 "선거 관련 정보는 일정에 따라 확정되는 정보가 많고, 시점에 따라 정보가 계속 변하기 때문에 아직은 생성형 AI 기술적 한계로 정보 구성에 어려움이 있다"며 "선거와 관련된 정보는 작은 오류로도 피해가 발생하고 선거 참여에 영향을 줄 수 있어 정확성이 매우 중요하기 때문에 '클로바 X', '큐(Cue:)' 서비스를 이용할 때 주의가 필요하다"고 설명했다.

네이버는 클로바 X와 Cue:를 선거와 관련된 정보 요청이나 예측 등을 위해 사용하는 경우, 생성형 AI 기술적 한계로 제공이 어렵다고 안내할 예정이다. 선거 기간 동안 클로바 X와 Cue: 서비스 대화창 하단에 선거 관련 사용자 주의 안내 문구를 제공할 계획이다.

네이버는 제22대 국회의원 선거에 딥페이크 관련한 규정을 신설한 공직선거법이 시행됨에 따라, AI를 활용한 선거 관련 게시물이나 콘텐츠 제작할 때 주의가 필요하다고도 밝혔다. 

네이버는 블로그, 카페 등에서 동영상 등을 이용한 게시물을 작성할 때, 딥페이크 관련 안내문구를 제공해 사용자가 관련 내용을 확인하고 주의할 수 있도록 한다. 또한 검색 서비스에서는 검색을 통해 딥페이크 관련 정보나 콘텐츠가 유통되지 않도록 모니터링을 강화할 방침이다. 검색어를 입력하는 경우 검색결과 상단에 딥페이크로 인한 문제와 주의를 환기하는 안내 문구가 노출된다.

네이버는 사용자 안내와 함께 딥페이크 관련된 게시물로 인한 피해 유형과 신고 방법 등을 확인할 수 있도록 도움말을 새롭게 구성할 계획이다.

또 네이버는 뉴스 서비스에서 AI, 로봇이 자동으로 작성한 기사를 사용자가 잘 인지할 수 있도록 표기를 강조했다. 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단에 '이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성됐습니다'는 문구가 노출되고 있다.

최다래 기자(kiwi@zdnet.co.kr)