"딥페이크 피해자 2년새 30배"..서울시, 검·경과 공동대응 나선다

서울시·시교육청·검·경 '딥페이크 공동대응' 업무협약
'스쿨핫라인' 구축해 피해사실 확인시 신속 삭제 지원
딥페이크 피해신고 2년새 10→304명, 70%가 1020
오세훈 "아동·청소년, 성범죄로부터 보호, 통합 대응"

오세훈 서울시장이 10일 오전 서울시청 영상회의실에서 서울중앙지방검찰청 서울시경찰청, 서울특별시교육과 '아동·청소년 딥페이크 공동대응을 위한 업무협약' 체결에 앞서 인사말을 전하고 있다. (사진 왼쪽부터 김봉식 서울경찰청장, 오세훈 서울시장, 이창수 서울중앙지방검찰청 검사장, 설세훈 서울시교육감 권한대행)/사진=서울시

서울시가 시교육청, 검찰, 경찰과 함께 아동·청소년의 '딥페이크'(Deepfake·인공지능 기반 인간 이미지 합성기술) 피해를 신속히 구제하고 예방하기 위해 4자간 공동 대응에 나선다.

오세훈 서울시장은 10일 서울시청에서 서울중앙지방검찰청, 서울특별시경찰청, 서울특별시교육청과 딥페이크 공동 대응을 위한 업무협약을 체결했다. 딥페이크의 가해자와 피해자 상당수가 10대 아동·청소년인 만큼 시와 교육·사법·수사기관의 공조가 필요하다는 판단에 따른 것이다. 이날 협약식에는 오 시장과 이창수 서울중앙지검 검사장, 김봉식 서울경찰청장, 설세훈 서울시 교육감 권한대행이 참석했다.

경찰에 따르면, 지난 달 26~30일 딥페이크 성범죄 신고(118건)로 검거된 7명 중 6명이 10대였다. 딥페이크 성범죄 10대 피해자는 최근 3년간 모두 315명으로 전체 피해자 중 59.8%를 차지한다. 시와 시교육청, 검경은 기관 사이의 칸막이를 없앤 4자 공동 협력체계를 구성해 통합 지원에 나서기로 했다.

━

◇스쿨핫라인 가동, 피해사진 등 신속 삭제..예방교육 강화

━

먼저 학교 내에서 범죄·피해 사실이 확인되면 학교에서 서울시로 신속하게 연계할 수 있는 '스쿨핫라인(School Hotline)'을 가동한다. 지금까지는 피해자인 학생 당사자가 피해 상황을 감당하고 대응해야 했지만 교사나 학교 전담경찰관(SPO)이 서울 디지털성범죄 안심지원센터에 의뢰하면 피해 사진과 영상물을 신속하게 삭제한다.

안심지원센터 피해지원관이 학교 또는 제 3의 장소로 피해자를 찾아가 영상물 삭제지원 등 필요한 도움을 주는 '학교로 찾아가는 원스톱 통합지원'도 운영한다. 앞서 서울시는 지방자치단체 최초로 최근 방송통신심의위원회와 핫라인을 구축해 24간 불법 사진·영상물 삭제 지원 시스템을 가동하고 있다.

검경 사건인 경우 딥페이크 피해를 최소화하기 위해 '시-검·경찰간 전달 체계도 마련한다. 기존에는 검경이 확보한 피해 영상물을 안심지원센터의 피해지원관이 직접 가서 받아오는 방식이었다. 내년부터는 시스템을 통해 안전하고 신속하게 양측 기관에서 영상물을 전달한다.

청소년 대상 예방 교육에도 나선다. 청소년 가해자의 96%가 딥페이크 성범죄를 '놀이'나 '장난'으로 여기는 인식이 문제를 키운 주요인 중 하나라는 판단에서다. 시와 교육청, 경찰이 공동으로 초·중·고교 딥페이크 집중 교육자료를 제작하고 학생과 학부모를 대상으로 교육을 실시할 계획이다. 서울 시내 1300여 개의 학교, 시립청소년시설들과 협력해 '스톱! 딥페이크(STOP! DEEPFAKE)' 캠페인도 추진한다.

━

10명→17명→304명 피해자 폭증, 피해·가해자 10대가 가장 많아

━

한편, 시는 서울 디지털 성범죄 안심지원센터에 접수된 딥페이크 피해자가 지난 2022년 10명, 2023년 17명에서 올해 304명으로 2년 새 30배 넘게 늘었다고 밝혔다.

지난 3년간 331명의 전체 피해자 중 10대가 121명(36.6%)으로 가장 많았고 20대는 108명(32.6%)이었다. 피해자 10명 중 7명(69.2%)이 10~20대인 셈이다. 가해자 역시 10대가 27명(31.4%)으로 가장 많았고 20대는 6명(7%)으로 청소년의 딥페이크 범죄 행위가 심각한 것으로 나타났다.

파악된 가해자와 피해자의 관계는 친구 31명(34.4%), 모르는 사람 24명(27.0%), 채팅상대와 애인 관계가 각 3명(3.3%) 순이었다. 관계를 알 수 없는 경우도 22명(27.0%)으로 집계됐다. 센터에 연계된 피해자는 주로 경찰, 검찰 등 수사기관을 통한 경우(269명, 81.0%)가 가장 많았다. 본인이 직접 센터로 요청한 경우는 32명(9.6%)이며, 부모를 통한 지원 요청도 18명(5.4%)으로 조사됐다.

오세훈 서울시장은 "우리 사회의 미래인 아동·청소년을 성범죄로부터 보호하고 피해를 최소화하는 노력은 아무리 강조해도 지나치지 않는다"며 "행정, 사법, 교육, 수사기관을 망라한 4자 협력체계를 가동해 예방 교육부터 피해 영상물 삭제·차단, 피해자의 빠른 일상 회복까지 통합 대응체계를 구축하겠다"고 말했다.

오상헌 기자 bborirang@mt.co.kr