네이버웹툰, AI 기반 '엑스파이더'로 유해 콘텐츠 차단

네이버웹툰 유해 콘텐츠 필터링 솔루션 엑스파이더

네이버웹툰이 인공지능(AI) 기술을 활용한 유해 콘텐츠 필터링 솔루션 '엑스파이더'로 웹툰·웹소설 이용에 최적화한 환경을 제공한다.

엑스파이더는 유해 이미지와 유해 텍스트 업로드를 예방하는 솔루션이다. 국내외 네이버웹툰 서비스에서 선정적이고 폭력적인 장면과 문구·욕설 등 유해한 내용 원천 차단을 목표로 자체 개발했다.

인증받은 창작자 누구나 직접 작품을 업로드해서 소개하는 공간인 '도전만화'와 '캔버스' 서비스 내 유해 콘텐츠 검수에 우선 적용한다. 네이버웹툰은 웹툰·웹소설 생태계 확장과 신인 작가 발굴 및 연재 기회 확대를 위해 도전만화와 캔버스 등 서비스를 제공하지만 세계적으로 하루에도 수천, 수만 편의 콘텐츠가 업로드되고 있어 유해 콘텐츠 검수가 필요한 상황이다.

네이버웹툰은 이보다 앞서 지난해 8월 유해 이미지를 자동 스크린하는 기술 '툰세이퍼'를 개발, 캔버스에 적용했다. 하지만 웹툰은 실제 사진과 달리 만화그림체나 추상화 형태로 업로드되는 경우가 많아 AI가 유해 콘텐츠 여부를 확인하기 어려웠다.

엑스파이더 개발을 주도한 서충현 네이버웹툰 AI프로텍션 리드는 “콘텐츠 검수자가 유해성을 판단하기 어렵거나 지역별로 다른 유해성 판정이 필요한 이슈가 있었다”면서 “1년 정도 지속적인 머신러닝·딥러닝 학습으로 솔루션을 고도화, 유해성 판별률을 극대화한 '엑스파이더 for 이미지'를 개발했다”고 설명했다.

'엑스파이더 for 이미지' 유해 콘텐츠 판별률은 툰세이퍼 대비 50% 이상 높아졌다. 툰세이퍼가 모더레이터 검수에 도움을 주는 수준이었다면 엑스파이더는 직접 필터링을 담당할 수준으로 고도화됐다. 네이버웹툰은 3분기 중 글로벌 플랫폼에 우선 엑스파이더를 적용할 계획이다.

텍스트 유해 문장과 단어를 찾아낼 수 있는 AI 기반 '엑스파이더 for 텍스트' 개발도 마무리단계에 있다. 웹툰 대사, 웹소설 내용, 댓글·게시글 등 텍스트 내용 검수가 필요한 영역 어디든 적용할 수 있는 기술이다. 올 4분기에 네이버웹툰 글로벌 서비스 라인웹툰부터 적용을 시작으로 네이버웹툰이 인수한 북미 최대 웹소설 플랫폼 '왓패드' 등 다른 서비스로 확대 적용할 예정이다.

서충현 네이버웹툰 AI프로텍션 리드

서 리드는 “솔루션 업그레이드를 지속해 모더레이터 검수 리소스를 최소화하고 국내외 작가와 이용자에게 쾌적한 창작·이용환경을 제공하겠다”고 말했다.

박종진기자 truth@etnews.com