AI로 불법 촬영 성범죄 영상 확산 막는다..ETRI 검색 시스템, 피해자 지원 업무에 적용

ETRI 연구진이 유해사이트 자동수집 시스템을 시연하고 있다.

인공지능(AI) 기술이 불법 촬영 디지털 성범죄 및 2차 피해 확산을 막는데 활용된다.

한국전자통신연구원(ETRI·원장 김명준)은 2019년 AI 기반 웹하드 불법 촬영물 삭제 지원 시스템을 개발해 한국여성인권진흥원 '디지털 성범죄 피해자 지원센터' 업무에 적용해온 데 이어 검색 대상을 인터넷 사이트까지 확대하는 데 성공했다고 9일 밝혔다. 이달 내 지원 업무에 시험 적용한다.

AI가 인터넷 사이트를 자동으로 검색해 웹 페이지 음란성 여부를 판단할 수 있다. 탐지 효율이 혁신적으로 개선돼 피해자 지원에 빠르게 대응할 수 있을 전망이다.

개발 핵심은 영상물 유해성을 분석·검출하는 AI 기술이다. AI가 등록된 키워드로 웹페이지들을 검색하고 웹페이지 내 게시물 텍스트, 이미지 등을 분석해 유해성을 검출한다. 프레임당 약 100만회 세부판단을 근거로 영상 간 유사도 비교를 수행한다. 콘텐츠 유해성 판단 정확도는 99.4% 이상, 검출 속도는 0.01초 이하다.

유해사이트 자동수집 시스템 개념도

ETRI는 이번 성과가 AI를 적용한 유해 웹사이트 자동수집 시스템에 AI 엔진을 내장시켜 기술을 고도화한 결과라고 설명했다.

개발 기술에는 △AI 기술을 활용해 등록 키워드로 웹페이지를 검색하는 기능 △유해 영상물 유포 의심 사이트 관련 정보를 자동으로 선별·수집하는 기능 등을 갖추고 있다.

연구진은 지난 6월부터 두 달간 진행된 시험기간 동안, 피해 영상물 검색 키워드, 썸네일 이미지, 주소(URL) 등을 활용, 총 1만8945건 웹사이트를 자동 수집했으며 이 중 유해 사이트로 판별된 2631개 웹사이트를 걸러내는 데 성공했다.

ETRI 연구진은 미디어 지능화 기술을 통해 디지털 역기능 대응 기술을 고도화하는 등 선제적 디지털 성범죄 사전탐지, 확산방지를 위해 노력할 계획이라고 전했다.

이남경 ETRI 미디어지능화연구실장은 “이번 기술은 디지털 성범죄 피해자 지원 업무에 유용하게 활용될 것으로 보인다”며 “앞으로도 불법 촬영물 유포·확산을 최소화할 수 있도록 지원하겠다”고 말했다.

ETRI는 이밖에도 불법 촬영물 유통을 막기 위해 'n번방 방지법' 후속 조치인 내용 기반 영상검출 기술 개발에도 참여하고 있다.

이번 기술은 과학기술정보통신부 '인공지능 기반 유해미디어(음란성) 분석·검출 시스템 개발' 과제로 구현됐다. 판도라티비, 엘컴텍, SK텔레콤, 광운대가 공동연구기관으로 참여했다.

대전=김영준기자 kyj85@etnews.com