‘범죄 예고글’ 바로 잡는다!

‘자동 감지’ AI 시스템
서울시, 6개월 내 구축

서울시가 온라인 커뮤니티 등에 게시되는 살인·흉기난동 등 ‘무차별 범죄’ 예고 글을 자동으로 감지하는 인공지능(AI) 기반 시스템 구축에 나선다. 범죄 가능성을 빠르게 인지해 즉각적인 신고 등을 돕기 위한 것이다.

서울기술연구원은 지난 22일 범죄예고 게시글에 대한 분석·신고지원 시스템 개발에 착수했다고 24일 밝혔다. 시스템 초기 버전을 개발하는 데 3개월, 안정적인 버전을 완성하기까지 6개월 정도 소요될 것으로 연구원은 보고 있다.

이 시스템은 인터넷에 올라오는 게시글들을 AI 기반 모델이 실시간으로 크롤링(수집)·분석해 요주의 글을 감지할 수 있게 만들어질 예정이다. 현재는 수사기관이 혹시 모를 범죄예고를 일일이 검색해서 대응하고 있다. 시스템을 구축하려면 AI가 범죄예고 글 패턴을 학습해서 익혀야 한다. 그래야 해당 유형에 맞는 게시글이 올라왔을 때 이를 자동으로 인식해서 알릴 수 있다. 이를 위해 연구진은 최근 5년간 게재된 범죄예고 글을 수집했다.

데이터는 새로 생기는 대로 추가된다. 범죄예고 글이 텍스트가 아닌 이미지로 올라오는 경우에는 OCR(광학문자인식) 기법으로 텍스트를 추출해서 인식할 수 있다.

현실적으로 모든 웹에 올라오는 글을 전부 모니터링하기는 어렵다. 디시인사이드, 보배드림 등 이용자가 많은 온라인 커뮤니티와 사회관계망서비스(SNS) 등을 선정해 적용하면서 단계적으로 확대할 방침이다.

다만 사람이 문제의 글을 발견하고 신고하는 것보다 시스템이 더 빨라야 한다는 점은 과제다. 현재는 수사기관이 같은 게시글에 대해서도 동시다발적으로 여러 건의 신고를 접수하고 있지만, 더 빠르게 게시글 내용을 감지해 정제된 형태로 수사기관에 제공할 수 있게 한다는 것이다.

임성은 서울기술연구원장은 “시민 불안을 가중시키는 온라인 범죄예고 게시글에 발빠르게 대처할 수 있을 것으로 기대된다”고 밝혔다.

유경선 기자 lightsun@kyunghyang.com