서울시-방심위, 24시간 딥페이크 삭제 핫라인 구축 ···예방교육도 확대

오세훈 시장·류희림 위원장 긴급회동
‘딥페이크 SOS전용 상담창구’ 신설
AI 기반 검출기술도 개발

오세훈(왼쪽) 서울시장과 류희림 방송통신심의원회 위원장이 28일 서울시청에서 긴급회동을 갖고 딥페이크 범죄 피해대응을 위한 협약을 체결하고 있다. 사진 제공=서울시

[서울경제]

텔레그램을 통한 딥페이크 성범죄 피해가 확산되고 있는 가운데 서울시와 방송통신심의위원회가 24시간 딥페이크 영상물 삭제 체계를 공동으로 구축한다.

오세훈 서울시장과 류희림 방송통신심의위원장이 28일 긴급 회동을 갖고 딥페이크 영상물을 신속하게 삭제하기 위해 상호 핫라인을 구축하는 내용의 협약을 체결했다.

양측은 폐쇄형 사회관계망서비스(SNS) 내에 있는 딥페이크 불법영상물이 공개사이트에 유포될 경우 24시간내에 신속하게 모니터링 및 삭제·차단될 수 있도록 조치하기로 했다. 기존에는 서울시시 디지털성범죄안심지원센터에서 방심위에 삭제요청 할 때마다 각종 증빙자료를 제출해야 했으나 핫라인을 구축하면 시스템으로 연계하여 대량 건수를 일시에 삭제요청할 수 있게 된다고 시는 설명했다. 서울시는 지난 2022년 3월 서울디지털성범죄안심지원센터를 개소한 이래 초기상담, 수사·법률·심리·의료 및 삭제지원 등 1437명의 피해자를 원스톱으로 지원했다. 이중 딥페이크 피해자 총 72명에게 772건의 서비스를 지원했다.

서울시는 또 딥페이크 범죄에 아동·청소년도 쉽고 빠르게 대응할 수 있도록 카카오톡 오픈채팅방에 ‘딥페이크 SOS 전담 상담창구’를 개설해 신고방법 및 범죄 채증방법 등을 안내하기로 했다.

신고를 꺼리는 학생들도 익명으로 쉽게 상담할 수 있도록 카카오톡 오픈채팅방을 개설하고, 서울교육청을 통해 각 학교에 홍보하기로 했다.

이와 함께 서울시는 연말까지 딥페이크 영상물을 자동으로 삭제신고 하는 시스템을 구축하고, 딥페이크 검출기술도 개발할 방침이다. 특히 내년에는 인공지능(AI)을 기반으로 한 딥페이크 검출 기술 ‘서울 안심 아이(Seoul Safe Eye)’를 개발해 딥페이크와 원본 사진·영상물을 구분해 검출해 나갈 계획이다.

오 시장은 “오늘부터 이 시간부터 즉시 딥페이크 영상물을 신고받고 24시간 내 삭제하는 핫라인을 방송통신심의위원회와 함께 운영한다”며 “핫라인 구축을 통해 피해 영상물을 즉각적으로 삭제하고 피해자를 원스톱으로 지원하는 것은 전국 최초”라고 말했다. 이어 “올해 말까지 AI 기반 딥페이크 검출 기술과 자동 신고 시스템을 개발해 시간 단축, 삭제지원 건수 증가 등 시민들의 딥페이크 영상물 피해를 최소화하도록 노력하겠다”고 말했다.

김능현 기자 nhkimchn@sedaily.com