[D리포트] AI가 알아서 미성년자 성 착취물 삭제한다
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
인공지능, 즉 AI를 이용해 아동·청소년 성 착취물을 자동 추적해 감시하는 기술이 개발됐습니다.
서울시가 집계한 최근 디지털 성범죄 피해 요청 현황에 따르면, 아동·청소년이 스스로 피해를 신고한 경우는 7.8%에 그쳤고, 삭제 조치한 전체 성 착취물 가운데 아동 청소년 스스로 삭제를 요청한 건 13.5%에 불과합니다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
인공지능, 즉 AI를 이용해 아동·청소년 성 착취물을 자동 추적해 감시하는 기술이 개발됐습니다.
서울시가 서울연구원과 공동개발한 이 기술은 딥러닝을 이용한 '안면 인식'이 특징입니다.
영상 1,500개 분량을 학습하고 분석한 AI가 영상 속 얼굴의 성별과 나이를 판별하고, 얼굴이 나오지 않을 땐 영상 속 소품이나 활자, 청소년들이 주로 쓰는 언어 등도 함께 인식해 피해 영상물인지를 판별합니다.
덕분에 수작업으론 2시간 넘게 걸리던 업무 시간도 90초로 대폭 줄어들며 효율을 높였습니다.
[김준철/서울연구원 디지털도시연구실 : 앞으로는 좀 더 학습 데이터가 누적되면서 삭제 신고가 더 이뤄지기 때문에 더 많은 데이터를 갖고 학습을 진행하면서 모델은 진화해나가면서 정확도는 더 높아질 것…]
서울시가 집계한 최근 디지털 성범죄 피해 요청 현황에 따르면, 아동·청소년이 스스로 피해를 신고한 경우는 7.8%에 그쳤고, 삭제 조치한 전체 성 착취물 가운데 아동 청소년 스스로 삭제를 요청한 건 13.5%에 불과합니다.
이처럼 상대적으로 성인보다 신고를 꺼리는 아동 청소년 피해자의 특성에 맞게 AI를 이용해 미신고 영상까지 선제적인 감시와 조치가 가능한 것도 장점으로 꼽힙니다.
[문기현/서울디지털성범죄안심지원센터장 : 아이들의 경우에는 가장 꺼리는 게 부모님이 알게 될까 봐 그걸 가장 걱정을 해요. 그러다 보니 시간은 길어지고 유포는 빨리, 이미 되고 있고 이런 경우가 많습니다.]
전문가들은 개인정보를 악용해 '자기 촬영'을 유인하는 디지털 성착취물 범죄가 더욱 늘고 있는 만큼, 아동 청소년에게 디지털 에티켓과 리터러시 교육을 확대하는 등의 예방 조치도 필요하다고 설명했습니다.
(취재 : 신용식 / 영상편집 : 원형희 / 제작 : 디지털뉴스편집부)
신용식 기자 dinosik@sbs.co.kr
Copyright © Copyright ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지
- 김호중, 술 마셨어도 무죄 가능성?…'크림빵 사건' 뭐길래
- 갑질 논란 강형욱 훈련소 가봤더니…주민들도 "이상해"
- [정치쇼] "故 구하라, '기자님, 그 보도 계속 하세요'라고" 울컥한 강경윤
- "수영장에 소변 섞여"…치우는 직원에 욕설 쏟아낸 가족
- 잇단 '비계 삼겹살' 논란…이번엔 백화점 구매 후기 올라와
- "피 토할 수도…중국 스트레스 해소용 장난감에 발암물질"
- "소주 한 잔 주세요" 주류 잔 단위 주문 가능해진다…이달 말부터
- '조건부 운전면허' 발표→하루 만에 수정…"노인 차별 아니냐" 반발
- 헌재에 선 초등학생들…"우린 꿈을 포기해야 할지도" 정부 향해 경고
- '난기류 아수라장' 싱가포르항공기…"사람·물건 휙휙 날아다녀"