[AI픽] 네이버 AI는 어떻게 위험을 걸러낼까…110개 항목 분류

유해 답변 차단 넘어 사용성 평가…안전체계 첫 공개

(서울=연합뉴스) 한상용 기자 = 네이버는 자체 인공지능(AI) 안전성 관리 체계인 'ASF 2.0' 서비스 적용 사례를 담은 'AI 세이프티 프로그레스 리포트'를 처음 발간했다고 16일 밝혔다.

ASF 2.0은 AI 모델 성능과 위험 수준, 이용자와 서비스 보호를 포괄하는 네이버의 AI 안전성 관리 체계다.

AI 서비스 설계와 개발부터 출시·운영까지 전 과정에서 안전성을 관리하는 것을 목표로 한다.

네이버는 AI 서비스에서 발생할 수 있는 위험을 법률적·사회적·산업적 사례를 토대로 110개 세부 항목으로 분류한 'N-ARTI'도 마련했다.

서비스별 특성을 반영하면서도 전사적으로 일관된 기준을 적용하기 위한 위험 분류·식별 체계다.

네이버는 또한 생성형 AI 답변의 안전성을 평가하는 'N-ASET'를 공개했다.

답변에 이용자에게 해를 끼칠 수 있는 내용이 있는지를 보는 '유해성'과 질의에 적절히 답하고 면책 문구·전문가 안내 등 필요한 안전 요소를 갖췄는지를 평가하는 '사용성'까지 살피는 기능이다.

네이버는 이를 통해 유해 답변 차단뿐 아니라 AI 서비스 유용성을 균형 있게 평가할 수 있다고 설명했다.

리포트에는 AI 쇼핑 에이전트와 날씨 서비스에서 AI 활용 사실을 이용자에게 표시·고지한 사례, 지난 6월 출시한 AI탭의 설계·출시 과정에 안전성 체계를 적용한 사례도 담겼다.

원성재 네이버 AI 세이프티 센터장은 "AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속적으로 고도화하고 적용해 나가겠다"고 말했다.

gogo213@yna.co.kr

▶제보는 카톡 okjebo

IT/과학