서울시, 딥페이크 범죄 방심위 핫라인 구축 24시간 삭제시스템 가동

서울시, 검찰·경찰·교육청과 MOU…'딥페이크' 원스톱 지원
오세훈 시장 "아동·청소년 지켜주는 사회정 방파제 되겠다"

오세훈 서울시장이 3일 서울 여의도 국회의원회관에서 열린 '딥페이크 디지털성범죄 예방과 대응책 마련을 위한 정책토론회'에서 축사를 하고 있다. 2024.9.3/뉴스1 ⓒ News1 안은나 기자

(서울=뉴스1) 권혜정 기자 = 아동·청소년을 대상으로 딥페이크(불법합성물) 성범죄 피해가 큰 가운데 서울시가 서울중앙지검, 서울경찰청, 서울시교육청과 공조해 예방 교육부터 피해 영상물의 신속한 삭제와 차단, 그리고 피해자의 빠른 일상회복에 이르는 '원스톱 지원'에 나선다.

◇서울시, 검찰·경찰·교육청과 MOU…'딥페이크' 원스톱 지원

서울시는 오세훈 시장이 10일 서울시청에서 서울중앙지방검찰청, 서울특별시경찰청, 서울특별시교육청과 '아동·청소년 딥페이크 공동대응을 위한 업무협약'을 체결했다고 밝혔다.

그동안 각 기관별로 서비스와 지원이 이뤄졌다면 이날 업무협약을 통해 칸막이를 없앤 4자 공동협력체계를 구성, 통합지원에 나서게 된다.

주요 내용은 △'스쿨핫라인'(School Hotline) 구축을 통한 학교 내 딥페이크 성범죄 신속 대응 및 학교로 찾아가는 상담·지원 △딥페이크 피해 최소화를 위한 시-검찰-경찰 피해정보 신속 연계 △딥페이크 등 아동·청소년 디지털성범죄 예방 및 재발방지 교육 등이다.

우선 학교 내에서 범죄‧피해사실이 확인될 경우 학교에서 서울시로 신속하게 연계할 수 있는 '스쿨핫라인'을 가동한다.

기존에는 피해자인 학생 당사자가 피해 상황을 감당하고 대응해야 했다면 이제는 교사나 학교 전담경찰관(SPO)을 통해 서울 디지털성범죄 안심지원센터에 의뢰하면 피해 사진·영상물을 신속하게 삭제 지원한다.

피해학생이 직접 상담소 등으로 찾아가는데 부담을 느끼는 경우 피해 학생의 요청에 따라 서울 디지털성범죄 안심지원센터 피해지원관이 학교 또는 제 3의 장소로 찾아가 영상물 삭제지원 등 필요한 도움을 주는 '학교로 찾아가는 원스톱 통합지원'도 운영한다.

검·경찰 사건의 경우 딥페이크 피해를 최소화하기 위해 '시-검·경찰간 전달체계'를 마련, 피해정보를 신속하고 안전하게 전달해 즉시 삭제에 나선다.

기존 검·경찰이 확보한 피해 영상물을 서울 디지털성범죄 안심지원센터의 피해지원관이 직접 가서 받아오는 방식이었다면, 이번 업무협약을 계기로 2025년부터는 시스템을 통해 안전하고 신속하게 양측 기관에서 영상물을 전달할 수 있게 된다.

청소년 가해자의 96%가 딥페이크 성범죄의 심각성을 인지하지 못하고 '놀이'나 '장난'으로 여기고 있는 인식이 딥페이크 성범죄 확산을 키운 요인의 하나라고 판단, 인식을 개선하기 위한 예방 교육도 진행한다.

서울시와 서울시교육청, 서울경찰청이 공동으로 초·중·고등학교 딥페이크 집중 교육자료를 제작하고 학생과 학부모를 대상으로 교육을 실시한다. 교육수료자를 대상으로 '내 친구 지킴이' 5000명을 양성해 또래 집단의 딥페이크에 대한 경각심을 키우도록 할 예정이다.

딥페이크 예방교육과 함께 서울 시내 1300여 개의 학교, 시립청소년시설들과 협력해 '스톱! 딥페이크'(STOP! DEEPFAKE) 캠페인을 추진해 어릴 때부터 딥페이크의 위험성을 알리는 사회 분위기를 조성한다.

서울중앙지검, 서울경찰청은 딥페이크 수사를 강화하고 아동·청소년 수사 시 서울시 상담원이 동행해 피해자 보호 및 지원을 도모한다. 아동·청소년 딥페이크 가해자의 경우 서울검찰청 연계를 통해 서울시에서 딥페이크 가해자 재발방지 상담(1인 14회기)를 무료로 진행해 딥페이크 재발을 방지한다.

오세훈 서울시장이 28일 오후 서울 중구 서울시청에서 열린 '서울시-방송통신심의위원회 딥페이크 영상물 삭제 지원을 위한 업무협약식'에서 취재진의 질문에 답하고 있다. 2024.8.28/뉴스1 ⓒ News1 민경석 기자

◇딥페이크 피해자 2년 사이 2940% '급증'…10대가 36.6% 서울 디지털 성범죄 안심지원센터에 접수된 딥페이크 피해자의 경우 2022년도 10명, 2023년도 17명이었던 피해자가 2024년도에는 304명으로 2년 새 2940% 증가했다. 총 331명의 피해자 중 10대가 121명(36.6%)으로 가장 많았으며, 20대는 108명(32.6%)으로 10~20대가 전체 피해자의 69.2%(229명)을 차지했다.

가해자 역시 10대가 27명(31.4%)으로 가장 많았으며 20대는 6명(7%)를 차지해 청소년의 딥페이크 범죄 행위가 심각함을 알 수 있다. 파악된 가해자와 피해자의 관계는 친구 31명(34.4%), 모르는 사람 24명(27.0%), 채팅상대와 애인 관계가 각 3명(3.3%)순으로 나타났으며 관계를 알 수 없는 경우가 22명(27.0%)이었다.

센터에 연계된 피해자는 주로 경찰, 검찰 등 수사기관을 통해 연계되었으며(269명, 81.0%) 본인이 직접 센터로 요청한 경우는 32명(9.6%)이다. 10대 피해자의 비율이 높아 부모를 통한 지원요청도 18명(5.4%)인 것으로 나타났다.

서울시는 딥페이크 문제의 심각성을 인식하고 지자체 최초로 방송통신심의위원회와 핫라인을 구축해 24간 삭제지원 시스템을 가동하고 있다.

딥페이크 피해로 고통받는 아동·청소년이나 성인은 '서울 디지털 성범죄 안심지원센터'를 통해 고소장 작성부터 삭제지원, 심리상담, 법률, 의료지원에 이르는 원스톱 지원을 받을 수 있다.

오세훈 서울시장은 "이번 업무협약으로 행정, 사법, 교육, 수사기관을 망라한 4자 협력체계를 가동해서 예방 교육부터 피해 영상물 삭제·차단, 피해자의 빠른 일상 회복까지 통합대응체계를 구축한다"며 "딥페이크 범죄로부터 아동·청소년을 지켜내는 사회적 방파제가 되도록 최선을 다하겠다"고 말했다.

jung9079@news1.kr