디지털 성착취물 1분이면 잡아내서 삭제까지…성평등부 AI로 24시간 자동 단속 [세상&]

성평등가족부 인공지능(AI) 기술 이용 디지털 성범죄물 삭제 시스템 자동화

[헤럴드경제=김아린 기자] 성평등가족부가 인공지능(AI) 기술을 이용해 디지털 성범죄물 삭제 시스템을 자동화한다. 이번 시스템 도입으로 성범죄 피해 착취물 식별부터 삭제까지 모든 과정이 1분 이내로 단축된다.

1일 성평등부는 “디지털 성범죄 대응 체계를 자동화해 대응 속도와 정확도가 대폭 향상됐다“며 “기존의 수동 사후 대응의 한계를 보완하고 신속하고 선제적인 대응 체계를 구축했다“고 밝혔다.

특히 사회관계망서비스(SNS)과 불특정 다수와 대화하는 ‘랜덤채팅’ 앱에서 아동·청소년을 대상으로 한 성착취 영상물이나 유인 정보를 24시간 자동 수집·분석하고 신고 접수까지 하는 기술을 국내 최초로 적용했다.

성평등부에 따르면 이번 시스템을 시범 운영한 결과 신고 접수 건수가 아동·청소년 성착취물은 2.7배, 유인 정보는 80배 이상으로 크게 늘었다.

앞으로 시스템이 본격 운영되면 아동·청소년 성착취물은 빠르게 삭제하고, 성착취 유인 정보는 신고와 동시에 전문가가 개입하는 통합 지원에 나설 예정이다.

AI를 이용해 만든 허위 사진·영상물인 ‘딥페이크’ 식별 기술도 함께 탑재돼 수동으로 판별이 어려웠던 피해물까지 효과적으로 차단할 수 있게 됐다.

원민경 성평등부 장관은 “기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점”이라며 “AI 기술로 촘촘한 지원 체계를 구축해 피해자의 일상 회복에 앞장서겠다“고 밝혔다.