네이버 "딥페이크 기술 악용한 성폭력 범죄 신고해주세요"

고객센터 공지사항 통해 딥페이크 유포에 대한 주의와 신고 당부

[아이뉴스24 정유림 기자] 네이버는 최근 사회적으로 문제가 되고 있는 '딥페이크'(인공지능 기반 이미지 합성 기술) 사태와 관련해 신고 채널 공지와 접수 등 대응에 나섰다. 방송통신심의위원회가 네이버, 카카오 등 국내 기업에 신고 배너 설치 등 협조를 요청하면서 대응에 나선 것이다.

네이버 제2사옥 1784 [사진=네이버]

28일 네이버는 고객센터 공지사항을 통해 "만약 딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자의 권리를 침해하는 이미지나 영상을 발견했다면 아래의 신고 채널을 통해 접수하길 바란다"고 설명했다.

네이버는 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다"며 "타인의 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 인공지능(AI) 등을 이용한 경우 문제가 될 수 있기 때문에 각별한 주의가 필요하다"고 강조했다.

최근 여성의 얼굴에 음란물을 합성한 딥페이크 영상물이 메신저 텔레그램 단체 대화방 등을 통해 대거 유포되면서 논란이 일고 있다. 네이버는 고객센터를 비롯해 게시물 신고센터, 그린UGC 공식 블로그 등을 통해서도 딥페이크 유포에 대한 주의와 신고를 당부했다.

이외에도 기존에 네이버의 여러 서비스들에서 불법·유해 콘텐츠 유통과 확산을 방지하기 위한 조치가 취해지고 있다. 3D 아바타 기반 사회관계망(SNS) 서비스 제페토가 대표적이다. 제페토를 운영하는 네이버제트는 인공지능(AI) 기술을 활용해 올해 상반기 사용 제한 조치를 취한 제페토 계정의 약 40%를 AI 필터를 활용해 선제적으로 처리했다고 밝혔다.

네이버제트는 앞서 올해 1월 이미지와 동영상 유해 콘텐츠 판별 AI 엔진을 서비스에 적용했다. 해당 AI 엔진은 성인물·아동성착취물과 폭력·혐오·반사회적 이슈 등의 콘텐츠를 실시간으로 판별해 정도에 따라 즉시 처벌(제거·게시자 이용 제한)하거나 내부 모니터링 전문 인원에 전달해 처리할 수 있도록 하고 있다. 올 하반기에는 해당 엔진의 모니터링 대상을 텍스트(글)까지 확대할 예정이라고 회사 측은 덧붙였다.

/정유림 기자(2yclever@inews24.com)