오세훈 "딥페이크 영상물 삭제 지원 주체, 지자체로 확대해야"

[동정] 오 시장 '딥페이크 예방·대응책 토론회' 참석

오세훈 서울시장이 28일 오후 서울 중구 서울시청에서 열린 '서울시-방송통신심의위원회 딥페이크 영상물 삭제 지원을 위한 업무협약식'에서 취재진의 질문에 답하고 있다. 2024.8.28/뉴스1 ⓒ News1 민경석 기자

(서울=뉴스1) 오현주 기자 = 오세훈 서울시장이 최근 딥페이크(인공지능(AI) 기반 이미지 합성 기술) 범죄가 잇따르자 피해 영상물 삭제 지원 주체를 국가에서 지자체로 확대하는 법령 개정을 촉구할 예정이다.

오 시장은 3일 오전 9시30분 여의도 국회에서 열리는 '딥페이크 디지털 성범죄 예방과 대응책 마련을 위한 정책 토론회'에 참석해 "서울시는 최대한 서둘러 단 한명의 피해자라도 더 도울 수 있도록 하고, 피해자가 무거운 짐을 홀로 감당하지 않도록 하겠다"며 이같이 말한다.

현재 서울시는 딥페이크 피해에 대응하고자 지방자치단체(지자체) 최초로 방송통신심의위원회와 협력해 피해 영상물을 24시간 내 삭제 지원하는 핫라인 시스템을 가동하고 있다.

또 최근 디지털 성범죄 SOS 상담청구를 만들어 개설한 지 2일 만에 딥페이크 피해자 15명을 돕고 있다.

아울러 2022년 개관한 서울 디지털 성범죄 안심 지원센터에서 영상 삭제 지원과 피해자 지원까지 원스톱 서비스를 제공하고 있다. 지금까지 이 센터를 통해 1437명을 대상으로 3만 9764건의 지원이 이루어졌다.

나아가 내년 상반기까지 피해자 얼굴 사진과 유사도·정확도가 높은 AI 얼굴매칭 딥페이크 검출기술인 '서울 안심 아이'를 개발한다.

또 검색부터 신고까지 전 과정을 AI가 자동 실시하는 AI 신고 자동화 시스템도 연내 구축할 예정이다.

이달부터는 초·중·고등학교 50개 학급 1000명을 대상으로 딥페이크 예방 교육을 운영하고, 재발 방지를 위해 가해자 상담·교육도 함께 추진한다.

woobi123@news1.kr