딥페이크 파문에…네이버-카카오 신고 채널 알리고 주의 당부

딥페이크 악용한 범죄 피해 우려…각사 고객센터 통해 신고 채널 등 안내

[아이뉴스24 정유림 기자] 딥페이크(인공지능 기반 이미지 합성, 딥러닝과 가짜(Fake)를 합친 말) 기술을 악용한 디지털 성범죄 문제로 파문이 일고 있는 가운데, 네이버와 카카오가 관련 신고 채널을 안내하고 이용자에게 주의를 당부하고 나섰다.

네이버와 카카오가 최근 사회적으로 문제가 되고 있는 '딥페이크' 사태와 관련해 관련 신고 채널 공지 등에 나섰다. 본 기사와 무관한 이미지. [사진=픽사베이]

1일 관련 업계에 따르면 네이버와 카카오는 각사 고객센터를 통해 딥페이크, 생성형 인공지능(AI) 등의 기술을 악용한 콘텐츠와 관련한 신고 채널 등을 안내하고 있다. 카카오 측은 "본인을 포함한 특정인의 초상과 성적 이미지를 합성한 정보 또는 합성 제작을 제안·요청하는 정보가 있다면 관련 기관에 신고하길 바란다"며 방송통신심의위원회 디지털 성범죄 신고 채널, 경찰청 사이버범죄수사과 신고번호와 홈페이지 등을 안내했다.

네이버도 관계 기관의 신고 채널을 안내하며 "딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다"며 "타인의 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 AI 등을 이용한 경우, 문제가 될 수 있기 때문에 각별한 주의가 필요하다"고 했다.

그러면서 "딥페이크, 생성형 AI 등의 기술을 이용해 글이나 이미지, 동영상, 음성 등을 새로이 만들거나 기존 콘텐츠를 변형해 게시, 유통하는 경우 법령을 위반하거나 타인의 소중한 인격과 권리를 침해할 수 있어 유의가 필요하다"며 정보통신망법 등 관련 법령에 대한 세부 내용도 안내했다.

기존에도 네이버와 카카오는 불법·유해 콘텐츠 유통과 확산을 방지하기 위해 신고 채널 개설과 안내 등의 조치를 해왔다. 하지만 최근 모바일 메신저 텔레그램에서 여성의 얼굴에 음란물을 합성한 허위 영상물이 제작·유포된 것이 드러나 파문이 일면서 이용자에게 주의를 재차 당부한 것이다.

최근 사태와 관련해 인터넷(온라인)상의 불법·유해 정보에 대해 심의하는 민간 독립기구인 방송통신심의위원회는 네이버와 카카오를 비롯한 플랫폼 기업에 전용 신고 배너 설치 등 협조를 요청하면서 이들 기업도 대응에 나선 모습이다.

한편 최근 사태의 근원지로 지목된 텔레그램은 러시아 태생의 니콜라이와 파벨 두로프 형제가 2013년 출시한 메신저 서비스다. 철저한 암호화와 익명성을 기반으로 비밀을 보장한다는 점을 앞세워 전 세계에서 널리 쓰이는 서비스로 빠르게 성장했다. 검열이 심각한 일부 지역에서는 주요 뉴스 플랫폼 역할을 했지만 마약 거래 등 각종 범죄의 온상이 되고 있다는 비판도 거세다.

이 가운데 파벨 두로프 텔레그램 최고경영자(CEO)는 텔레그램에서 벌어지는 각종 불법 행위를 방치했다는 혐의 등으로 최근 프랑스에서 체포됐다. 우리나라 방송통신심의위원회는 한국에서 벌어진 최근 사태와 관련한 대응을 위해 프랑스에 긴급 공조 요청을 보냈으며 프랑스 수사당국과의 접촉 채널이 확보된 만큼 앞으로 다양한 방법을 통해 협력이 가능할 것으로 기대한다고 밝혔다.

/정유림 기자(2yclever@inews24.com)