네이버 'AI탭', 개발·서비스 안전관리 국제인증

검색 기반 에이전틱 AI 국내 첫 사례…위험관리 체크리스트도 우수 평가

[디지털데일리 채성오기자] 네이버의 인공지능(AI) 검색 서비스 'AI탭'이 모델 개발부터 서비스 제공까지 안전관리 체계를 국제표준에 맞춰 검증받았다. 질문에 답하는 수준을 넘어 예약·구매 같은 후속 행동까지 연결하는 만큼 이용자와 접하는 단계도 심사 대상에 포함한 것이 핵심이다.

3일 네이버에 따르면, AI탭은 AI 경영시스템 국제표준 'ISO/IEC 42001:2023' 인증을 획득했다. 대규모 이용자가 사용하는 검색 기반 에이전틱 AI 서비스를 인증 범위로 삼은 국내 기업 첫 사례라는 게 회사 측 설명이다.

AI탭은 여러 차례 이어지는 대화의 맥락을 반영해 개인화된 정보를 제공하고, 이를 예약·구매 등 후속 단계와 연결한다. 이번 심사에서는 AI 모델을 개발하는 생산자와 실제 서비스를 제공하는 공급자, 두 역할에 적용되는 관리 절차를 함께 평가했다.

국제표준화기구(ISO)와 국제전기기술위원회(IEC)가 제정한 ISO/IEC 42001은 AI 분야 첫 국제 경영시스템 표준이다. 조직이 위험관리·보안·윤리 관련 체계를 갖추고 지속적으로 운영하는지 살핀다. 개별 AI 답변의 정확성이나 거래 결과를 보증하는 성능 인증과는 구별된다.

네이버는 AI 안전 전담 조직 'AI 세이프티 센터'를 중심으로 위험의 식별·평가·처리를 문서화해 관리한다. AI 위험 분류·식별 체계 'N-ARTI'와 안전성 평가 도구 'N-ASET'도 활용한다. 이러한 관리체계는 'ASF 2.0'과 점검 절차 'CHEC 2.0'을 토대로 운영된다. 이 중 CHEC 2.0은 이번 심사에서 우수사례로 평가됐다.

앞서 네이버는 지난 7월 ASF 2.0을 공개하며 안전관리 범위를 AI 모델에서 이용자와 서비스로 넓혔다. 9월에는 서비스 위험을 110개 세부 항목으로 분류한 체계도 발표했다. 이번 인증은 앞서 마련한 관리 절차를 독립된 제3자 심사로 확인한 결과다.

한편 지난 2일 경기 성남시 네이버 1784에서는 인증 수여식이 열렸다. 네이버는 AI탭에서 검증받은 관리체계를 다른 에이전틱 AI 서비스로 확대한다는 계획이다.