AI로 성범죄 피해영상 99% 이상 걸러낸다
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
국내 전문가들이 개발한 인공지능(AI) 기술로 불법 촬영으로 인한 디지털 성범죄와 2차 피해 확산을 신속하고 효율적으로 억제할 전망이다.
한국전자통신연구원(ETRI)은 'AI 활용한 유해사이트 검색 시스템'을 개발해 이달 내 인터넷 사이트에 시험 적용하기로 했다고 9일 밝혔다.
ETRI가 개발한 기술은 'AI를 활용해 등록된 키워드로 웹페이지를 검색하는 기능', '유해 영상물 유포 의심 사이트 관련 정보를 자동으로 선별, 수집하는 기능' 등이다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
국내 전문가들이 개발한 인공지능(AI) 기술로 불법 촬영으로 인한 디지털 성범죄와 2차 피해 확산을 신속하고 효율적으로 억제할 전망이다.
한국전자통신연구원(ETRI)은 'AI 활용한 유해사이트 검색 시스템'을 개발해 이달 내 인터넷 사이트에 시험 적용하기로 했다고 9일 밝혔다. AI가 인터넷 사이트를 자동으로 검색해 웹페이지의 음란성 여부를 판단하는 것이다. 음란 사이트를 탐지하는 효율이 뛰어나 디지털 성범죄 피해자를 지원하는 업무도 개선될 전망이다. 과학기술정보통신부 '인공지능 기반 유해미디어(음란성) 분석·검출 시스템 개발' 과제로 판도라티비와 엘컴텍, SK텔레콤, 광운대와 공동 연구한 성과다.
연구팀은 이미 2019년 웹하드 대상 불법 촬영물 삭제 지원 시스템을 개발해 한국여성인권진흥원 ‘디지털 성범죄 피해자 지원 센터' 업무에 적용한 바 있다. 이번 시스템 개발로 검색 대상을 인터넷 사이트까지 확대하는 데 성공한 셈이다.
AI 활용한 유해사이트 검색 시스템의 핵심은 영상물의 유해성을 분석하고 검출하는 AI 기술이다. AI가 등록된 키워드로 웹페이지들을 검색하고 웹페이지에 게시된 텍스트와 이미지 등을 분석해 유해성을 판단한다. ETRI가 개발한 기술은 'AI를 활용해 등록된 키워드로 웹페이지를 검색하는 기능', '유해 영상물 유포 의심 사이트 관련 정보를 자동으로 선별, 수집하는 기능' 등이다.
연구팀은 이 시스템이 콘텐츠 유해성을 판단하는 성능이 99.4% 이상으로 정확하며, 검출속도도 0.01초 이하로 빠르다고 밝혔다. 1프레임당 약 100만 번씩 영상 간의 유사도를 세밀하게 비교할 만큼 정교하다.
연구진은 지난 6월부터 두달간 시험운영하면서 피해 영상물의 검색 키워드, 썸네일 이미지, 주소(URL) 등을 활용해 총 1만8945건의 웹사이트를 자동 수집했으며 이 중 유해 사이트로 판별된 2631개 웹사이트를 걸러내는 데 성공했다.
이남경 ETRI 미디어지능화연구실장은 "이 시스템은 디지털 성범죄 피해자를 지원하는 업무에 유용하게 쓰일 것"이라며 "앞으로도 불법 촬영물의 유포, 확산을 최소화할 수 있도록 지원하겠다"고 말했다.
연구팀은 2019년에도웹하드를 대상으로 한 불법 촬영물 삭제 지원 시스템을 개발했으며, 이 성과들을 토대로 영상을 내용 기반으로 검출하는 기술 등 디지털 역기능에 대응하는 기술을 개발하고 있다.
[이정아 기자 zzunga@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.