아동·청소년 성착취물, AI로 탐지한다

어두운 공간에 놓인 키보드. 언스플래쉬 제공.

인공지능(AI)으로 아동·청소년 성착취물을 자동 탐지하는 사업이 추진된다.

과학기술정보통신부는 여성가족부와 함께 ‘AI 기반 아동·청소년 온라인 성착취 선제적 대응 시스템 도입’ 과제의 착수보고회를 23일 개최했다.

그간 아동·청소년 온라인 성착취물 모니터링은 한국여성인권진흥원 담당자가 관련 키워드를 검색해 육안으로 식별하는 방식으로 이뤄져왔다. 성착취물로 판단되면 플랫폼사에 개별적으로 삭제를 요청하고 있다.

AI 기반 시스템이 도입되면 AI 알고리즘을 활용한 ‘24시간 감시’가 가능해진다. AI가 성착취 관련 이미지를 검색하고 유해성 분석을 실시해 유형별로 삭제 검토 목록을 만들면 담당자가 최종 판단하게 된다. 이후 해당 시스템을 통해 플랫폼사에 삭제를 요청하고 처리 내역도 체계적으로 관리할 수 있다. 또한 피해자 상담 등 피해대응 체계도 AI 플랫폼을 기반으로 만들어진다.

정부는 AI·빅데이터·클라우드 등 디지털 신기술로 공공 서비스를 향상시키는 ‘디지털 기반 사회현안 해결 프로젝트’를 진행하고 있다. 이번 온라인 성착취물 선제 대응 시스템도 이 프로젝트 과제 중 하나다. 데이터 시각화에 특화된 기업 ‘아로’를 주축으로 한 컨소시엄이 시스템 구축을 맡았으며, 연내 제작 완료를 목표로 하고 있다.

송윤경 기자 kyung@kyunghyang.com