네이버, '실시간 음란물 차단' 서비스 종료…AI 보안망 새판 짠다[only이데일리]

'클로바 그린아이' 4월 23일 외부 API 서비스 종료
단일 이미지 필터링 한계 극복…'멀티모달'로 세대교체
신규 서비스 출시 검토…내부 서비스 안전은 유지

[이데일리 이소현 기자] 네이버(NAVER(035420))가 개발한 실시간 음란물 필터링 시스템 ‘클로바 그린아이(CLOVA GreenEye)’의 외부 서비스가 4년 만에 종료된다. 네이버는 단순 이미지 탐지를 넘어 텍스트·이미지·영상 등 콘텐츠 전반의 맥락을 통합 분석하는 기술 고도화를 통해, 차세대 멀티모달 기반 보안 체계로의 전환에 속도를 낸다는 구상이다.

(그래픽=문승용 기자)

24일 IT업계에 따르면 네이버는 최근 네이버클라우드 플랫폼 공지를 통해 실시간 음란물 필터링 서비스인 ‘클로바 그린아이’의 서비스를 오는 4월 23일 18시부로 종료한다고 밝혔다.

지난 1월 22일부터 신규 서비스 신청 제한에 이은 후속 조치로, 종료일 이후에는 모든 API(애플리케이션 프로그래밍 인터페이스) 호출과 서비스 기능이 일괄 중단된다.

클로바 그린아이는 24시간 실시간 음란 이미지를 필터링하는 기술로 2017년 ‘엑스아이(X-eye)’로 출시된 이후 네이버의 청소년 보호와 인터넷 정화의 핵심 역할을 담당해 왔다. 네이버에 축적된 수백만장의 이미지를 AI로 꾸준히 학습해 부적절한 이미지가 네이버에 등록될 경우 이를 실시간으로 감지해 검색 노출을 차단한다. 판독한 이미지는 99.5%의 정확도로 정상, 음란, 성인, 선정 4가지 등급으로 분류한다. 현재 네이버 검색 외에도 카페, 블로그, 지식iN 등 다양한 서비스에 적용하고 있다.

네이버는 엑스아이를 2022년 12월 클로바 그린아이로 리브랜딩하고 네이버 클라우드 플랫폼을 통해 오픈 API 형태로 음란물 필터링 기술을 외부에 공개했다. 기술 여력이 부족한 스타트업이나 중소기업에서 해당 기술을 활용해 유해 콘텐츠를 자동 차단할 수 있도록 지원해왔다.

네이버가 외부 기업에도 오픈 API로 개방한 서비스를 종료하는 배경엔 기술적 패러다임의 변화가 있다. 과거엔 음란물 차단을 위해서 이미지라는 단일 데이터 분석에 집중해도 충분했지만, 최근 딥페이크 등 AI 기술을 악용한 유해 콘텐츠가 진화하면서 이미지뿐만 아니라 텍스트, 영상 등이 결합된 복합 분석의 필요성이 커졌다.

네이버클라우드 관계자는 “단일 이미지 탐지 외에 텍스트, 이미지, 로그 등을 통합하는 멀티모달 맥락 분석에 대한 시장 수요를 고려해 현재 상품을 종료하고 신규 서비스 출시를 검토할 예정”이라고 설명했다.

네이버 클로바 그린아이로 구현할 수 있는 시나리오 예시로, 인터넷 및 모바일 환경에 등록돼 전송된 모든 콘텐츠를 이미지 단위로 검사하고 유해 콘텐츠 등급에 따라 검사 결괏값을 반환한다.(사진=네이버클라우드 플랫폼)

‘국가대표 AI’ 옴니모달 기술, 보안 영역으로 확대되나

네이버가 AI 분야에서 텍스트와 이미지, 음성을 동시에 이해하고 생성하는 ‘옴니모달’ 기술 고도화에 힘쓰고 있는 가운데 향후 이를 보안 영역에 본격적으로 이식할지도 관심사다.

앞서 네이버클라우드는 정부가 추진 중인 ‘국가대표 AI’ 프로젝트의 첫 번째 결과물로 ‘하이퍼클로바X SEED 8B Omni’를 선뵀다. 경쟁사들이 텍스트 중심의 LLM(대형 언어 모델)을 개발한 것과 달리 이미지·영상·음성 등도 인식하고 처리하는 이른바 ‘옴니모달 모델’을 국내 최초로 공개했다.

네이버가 고도화 중인 차세대 AI 역량인 옴니모달 기술을 세이프티 영역에 녹여내면 단순히 노출 수위가 높은 이미지를 걸러내는 수준을 넘어 게시물에 담긴 은어(텍스트)와 사용자의 활동 패턴(로그), 영상의 전후 맥락을 입체적으로 분석할 수 있게 된다. 이를 통해 사이버 그루밍이나 지능형 유해 광고 등 기존 방식으로는 잡아내기 어려웠던 영역까지 촘촘한 방어망 구축이 가능해질 전망이다.

네이버는 외부 API 서비스 종료와 별개로 자사 플랫폼의 안전망은 공백 없이 유지한다는 방침이다. 네이버클라우드 관계자는 “현재 네이버 지식iN, 카페, 블로그 등 내부 서비스에 적용된 클로바 그린아이 서비스는 지속 가동된다”고 강조했다.

이소현 (atoz@edaily.co.kr)