네이버 “AI 시스템 3개월마다 위험 평가”

기업선 안전 생태계 마련 분주
네이버 자체 제작한 ASF 발표
카카오는 글로벌 AI 규범 적용
엔씨소프트 별도 R&D 진행 중

국회와 정부의 인공지능(AI) 안전에 대한 논의가 답보를 거듭하는 상황에서 AI 산업에 사활을 건 기업들은 자체적으로 AI안전 생태계를 만들거나 글로벌 관련 규범 협의체로 진입해 활로를 모색하고 있다. 특히 글로벌 AI 시장에서 성공적으로 진입하기 위해서 AI의 글로벌 규범 주도권을 쥐기 위한 성격이 강하다.

네이버는 17일 AI 안전성 실천 체계인 ‘네이버 ASF(인공지능 세이프티 프레임워크)’를 발표했다. 네이버 ASF는 AI 시스템이 초래할 수 있는 위험을 각각 ‘통제력 상실 위험’과 ‘악용 위험’으로 정의하고, 이에 대응하기 위한 방법을 설계한 것이 특징이다.

네이버. 뉴스1

인간의 AI에 대한 ‘통제력 상실 위험’을 완화하기 위해 AI 시스템의 위험을 주기적으로 평가하고 관리한다. 현존 최고 성능의 AI 시스템을 ‘프런티어 AI’로 정의하고, 이 기술에 해당하는 AI 시스템에 대해서는 3개월마다 위험 평가를 수행한다.

또 AI의 ‘악용’ 가능성과 관련해선 ‘AI 위험 평가 매트릭스’를 적용해 대응한다. AI 위험 평가 매트릭스는 AI 사용 목적과 조치의 필요성에 따라 각각 다른 방법으로 위험을 관리한다. 가령 생화학 물질 개발과 같이 특수한 목적으로 사용되는 AI 시스템은 특별한 자격이 있는 사용자에게만 제공하고, 안전 조치의 필요성이 높은 AI 시스템의 경우 위험이 완화될 때까지 배포를 금지한다.

네이버의 ASF가 주목받는 이유는 자체적으로 AI 안전성 체계를 설계한 데 있다. 해외 빅테크들이 대부분 AI 모델 성능 발전에 따라 위험을 평가하는 구조를 가진 반면 각 지역의 사회 기술적 맥락을 고려하거나, ‘매트릭스’ 형태의 위험 평가 구조를 채택한 것은 네이버 ASF만의 특징이다.

네이버가 자체적인 AI 안전 생태계 구축에 나선 데 반해 카카오는 글로벌 기준에 부합하는 AI 안전규범을 적용했다. 카카오는 지난 4월 국내 기업 중에선 최초로 IBM, 메타, 인텔 등 기업이 속해있는 글로벌 오픈 소스 커뮤니티인 ‘AI 얼라이언스’에 가입했다. 게임사 중에서 AI 윤리 기술 개발을 선도하고 있는 엔씨소프트의 경우 AI 윤리 기술을 별도의 주제로 잡고 연구개발(R&D)을 진행 중이다.

최수연 네이버 대표는 “글로벌 시장에서도 네이버 ASF를 지속해서 개선해나갈 계획으로, 다양한 지역의 문화와 가치를 반영하는 다수의 AI 모델이 안전하게 사용될 수 있도록 네이버가 적극적으로 기여할 것”이라고 말했다.

김건호 기자 scoop3126@segye.com