AI안전연구소, CBRN 포함 AI모델 42종 평가... “美·英과 함께 CBRN 평가국 손꼽혀”

“국내외 주요 모델 지속 평가 중”

[보안뉴스 강현주 기자] AI안전연구소(AISI, 소장 김명주)가 화학·생물·방사선·핵(CBRN) 특화 평가를 포함해 국내외 42종 AI 모델에 대한 안전성 평가를 진행한 것으로 나타났다.

20일 과학기술정보통신부는 AISI가 설립 이후 국내외 AI 모델 총 42종(2025년 29종, 2026년13종)에 대해 안전성 평가를 수행하고, 6만여 개의 평가 데이터셋 및 시나리오를 확보 중이라고 밝혔다.

과기정통부가 이 같이 밝힌 것은 일각에서 나온 문제제기에 대한 설명을 위해서다. 일부 언론은 “AI안전연구소가 3년간 거둔 CBRN 평가 실적이 없다”고 보도했다.

하지만 AISI는 이달 13일 42종 모델 평가 수행 실적을 이미 홈페이지에 게시했다. 특히 AISI는 작년에 국내에서 활용 중인 AI 모델에 대해 CBRN을 포함한 평가를 실시한 바 있다고 밝혔다. 이 같은 내용은 홈페이지에 게시된 ‘AI 모델 42종 안전성 평가 수행 실적 공개’ 자료를 통해 확인할 수 있다. 다만 내부 전기 작업 공사로 일시 중단돼 주말동안 확인이 어려웠으며, 현재는 정상 운영되고 있다.

해당 자료에는 클로드, 챗GPT, 제미나이, 그록, 딥시크, 카나나, 가우스, 엑사원 등 국내 주요 AI 모델들 평가 항목들이 나온다. AISI가 평가한 카카오 AI 모델에 대한 보고서는 최근 공식 발표된 바 있다. 비공개 조건이 설정된 경우나 민감도가 높은 경우에는 공개하기 어렵다는 게 AISI 측 설명이다.

CBRN 평가는 AI의 무기화를 막는 취지의 평가다. AI 모델이 화학무기 합성, 병원균 설계, 핵 장치 조립 관련 정보를 제공할 수 있는지를 측정한다.

김명주 AISI 소장은 “전세계적으로 CBRN 평가를 수행하고 있는 곳은 미국, 영국에 이어 한국의 AISI가 손꼽힌다”며 “국내 독자 파운데이션 모델 선정에도 AISI의 평가가 반영됐으며, 현재도 국내외 주요 AI 모델에 대한 안전성 평가를 지속하고 있다”고 말했다.

AISI는 2024년 11월 AI 위험에 체계적·전문적으로 대응하기 위해 ‘한국전자통신연구원’(ETRI) 산하 기관으로 설립됐다.

과기정통부 측은 “앞으로도 AI안전연구소는 AI모델에 대한 상시·정기 안전성 평가를 지속 실시하고, 평가 결과와 AI안전 관련 가이드라인 등을 공개· 확산해 국민·기업이 AI를 안전하게 개발·활용할 수 있도록 최선을 다할 것”이라고 밝혔다.