AI안전연구소, 국내외 AI 모델 42종 안전성 평가 완료

화학·생물·방사능·핵 위험 평가 포함…6만여개 데이터셋·시나리오 축적 중

(지디넷코리아=김미정 기자)인공지능(AI)안전연구소가 AI 위험에 대응하기 위한 안전성 평가 내역을 공개했다. 

AI안전연구소는 2024년 11월 설립 이후 국내외 AI 모델 총 42종에 대한 안전성 평가를 수행했다고 20일 밝혔다. 지난해 29종을 점검한 데 이어 올해 들어 13종을 추가 평가했다.

AI안전연구소는 평가 역량을 높이기 위해 6만여개 평가 데이터셋과 시나리오도 확보하고 있다. 이는 다양한 위험 상황을 반영해 AI 모델의 취약성과 오작동 가능성을 점검하기 위한 기반 자료다.

김명주 AI안전연구소장. (사진=AI안전연구소)

연구소는 지난해 국내에서 활용 중인 AI 모델도 평가 대상에 포함했다. 해당 점검에는 화학·생물·방사능·핵 위험을 뜻하는 'CBRN' 항목도 반영됐다.

AI안전연구소는 앞으로 AI 모델에 대한 상시·정기 안전성 평가를 지속할 방침이다. 평가 결과와 AI 안전 관련 가이드라인도 공개하고 확산해 기업과 국민의 안전한 AI 개발·활용을 지원한다는 계획이다.

최근 일시적으로 접속이 중단됐던 AI안전연구소 홈페이지는 현재 정상 운영 중이다. 연구소는 지난 주말 내부 전기 작업 공사로 인해 홈페이지가 일시 중단됐다고 설명했다.

AI안전연구소는 "AI 모델에 대한 상시·정기 안전성 평가를 지속 실시하고 평가 결과와 AI 안전 관련 가이드라인 등을 공개·확산할 것"이라며 "국민·기업이 AI를 안전하게 개발·활용할 수 있도록 최선을 다하겠다"고 밝혔다.

김미정 기자(notyetkim@zdnet.co.kr)