서울시 AI 검출·삭제 기술로 딥페이크 즉각 삭제…방심위와 핫라인

오세훈 서울시장이 28일 류희림 방송통신심의위원장과 '딥페이크 영상물 삭제 지원을 위한 업무협약'을 체결했다. 서울시 제공

서울시가 방송통신심의위원회와 협력해 딥페이크 영상물을 즉각 삭제할 수 있는 핫라인을 구축한다. 또 카카오톡 오픈채팅방에 '딥페이크 SOS 전담 상담창구'를 개설해 피해자 보호에도 나선다.

서울시는 오세훈 서울시장과 류희림 방심위 위원장과 28일 긴급 회동하고 딥페이크 영상물 신속 삭제를 위한 핫라인 구축 업무협약을 체결했다고 29일 밝혔다.

최근 중·고등학교와 대학가, 군인을 포함한 다양한 계층에서 딥페이크 영상 유포가 확산되고 있으며, 텔레그램에서 언급된 피해 학교만 해도 400~500곳으로 추산되고 있다. 이러한 상황에서 서울시가 앞서 구축한 'AI 디지털성범죄 검출 삭제시스템'이 피해 구제에 상당한 도움이 될 전망이다.

서울시는 이번 협약을 통해 폐쇄형 SNS에 유포된 딥페이크 불법 영상물이 성인사이트나 SNS 등 공개 사이트로 확산될 경우, 24시간 이내에 신속하게 모니터링하고 삭제 및 차단하는 조치를 취할 방침이다.

기존에는 삭제 요청 시 방심위에 다양한 증빙자료를 제출해야 했으나, 앞으로는 방심위와의 핫라인을 통해 절차가 간소화되면서 대량의 영상물을 일괄적으로 처리할 수 있게 될 예정이다.

또한, 서울시는 카카오톡 오픈채팅방에 '딥페이크 SOS 전담 상담창구'를 개설해, 피해자들이 쉽게 접근하고 신고할 수 있도록 지원할 계획이다. 익명성을 보장한 상담을 통해 학생들도 부담 없이 피해 사실을 알릴 수 있는 것이 장점이다.

상담창구에서는 신고 방법과 범죄 증거 수집 방법 등을 안내하고, 필요한 경우 수사기관이나 의료기관에 동행하는 서비스도 제공한다.

이와 함께, 서울시는 연말까지 자동으로 삭제 신고가 가능한 시스템을 구축하고, 딥페이크 검출 기술을 개발해 피해 영상물 삭제 지원 건수를 획기적으로 늘릴 계획이다.

특히 내년에는 AI 기반 딥페이크 검출 기술 '서울 안심 아이(Seoul Safe Eye)'를 통해 기존보다 더욱 효율적으로 피해 영상물을 검출할 수 있을 것으로 기대하고 있다.

다음달부터는 초·중·고등학교를 대상으로 딥페이크 예방교육도 실시된다. 딥페이크 범죄혐의 전체 피의자 중 10대가 차지하는 비중이 75.8%로 매우 높기 때문이다. 이에따라 청소년들의 눈높이에 맞춘 교육 프로그램과 함께 딥페이크의 위험성과 디지털 윤리에 대한 교육이 이뤄질 예정이다.

오세훈 시장은 "오늘 이 시간부터 즉시 딥페이크 영상물을 신고받고 24시간 내 삭제하는 핫라인을 방송통신심의위원회와 함께 운영한다"며, "핫라인 구축을 통해 피해 영상물을 즉각 삭제하고 피해자를 원스톱으로 지원하는 것은 전국 최초"라고 말했다.

※CBS노컷뉴스는 여러분의 제보로 함께 세상을 바꿉니다. 각종 비리와 부당대우, 사건사고와 미담 등 모든 얘깃거리를 알려주세요.

• 이메일 :jebo@cbs.co.kr
• 카카오톡 :@노컷뉴스
• 사이트 :https://url.kr/b71afn

CBS노컷뉴스 장규석 기자 2580@cbs.co.kr

▶ 기자와 카톡 채팅하기▶ 노컷뉴스 영상 구독하기