美 정부, 구글·MS·xAI 새 AI모델 출시 前 들여다본다

美 AI안전硏였던 CAISI가 사전테스트

미국 정부가 구글 딥마인드, 마이크로소프트(MS), 일론 머스크의 xAI 등 빅테크 3사가 개발한 첨단 인공지능(AI) 모델을 일반 공개 전 직접 들여다볼 수 있게 됐다.

미 상무부 국립표준기술연구소(NIST) 산하 'AI 표준·혁신 센터'(CAISI)는 5일(현지시간) 이들 3사와 프런티어 AI 모델에 대한 국가안보 차원의 사전 평가와 공동 연구를 골자로 한 협약을 체결했다고 발표했다.

이번 협약에 따라 CAISI는 이들 기업이 새로운 모델을 출시하기 전에 정부가 직접 사전 평가(pre-deployment evaluation)하고 보안 취약점을 추적하는 표적 연구를 수행하게 된다.

하워드 러트닉 상무장관 지시에 따라 정부와 AI 업계를 잇는 단일 창구 역할을 맡게 됐다. 사이버 공격이나 군사적 용도 등 안보 위협을 살피고자 개발사들로부터 AI 안전장치를 일부 제거하거나 약화시킨 버전의 모델도 제공받기로 한 것으로 전해졌다.

이번 협약은 조 바이든 행정부 시절 미 AI안전연구소로 설립됐던 CAISI가 2024년 오픈AI·앤스로픽과 맺은 자율검증 협약을 도널드 트럼프 행정부의 'AI 액션플랜' 기조에 맞춰 재협상한 결과다. CAISI에 따르면 그간 40여 건이 넘는 모델 평가를 완료했다.

MS는 별도 성명을 통해 영국 AI보안연구소(AISI)와도 유사한 협약을 체결했다고 밝혔는데, 이곳 또한 세계 최초로 세워졌던 AI안전연구소가 명칭을 바꾼 것이다.

AI 기술 개발에 대한 비개입주의를 선호해온 트럼프 행정부가 이렇듯 AI 안전성으로 방향을 선회하는 배경에는 '미토스'의 등장으로 워싱턴 정가에 확산된 경계심이 있다. 앤스로픽이 그 위험성 때문에 공개를 제한한 이 모델은 소프트웨어(SW) 보안 취약점 탐색과 해킹 등에 기존 AI들보다 월등한 성능을 내는 것으로 알려졌다.

전날 뉴욕타임스(NYT)는 백악관이 신규 AI모델에 대한 정부 사전심사 절차를 공식 제도화하는 행정명령을 검토 중이라고 보도한 바 있다. 'AI 차르'로 불렸던 데이비드 삭스 백악관 과학기술자문위원장이 지난 3월 자리에서 물러나고 수지 와일스 백악관 비서실장과 스콧 베선트 재무장관이 그 자리를 대신하는 등 백악관 참모진 변화도 정책 방향 선회에 영향을 끼친 것으로 매체는 분석했다.

한편 이달 초 미 국방부(전쟁부)는 기밀네트워크에 AI 기술을 도입·배포하기 위해 스페이스X·오픈AI·구글·엔비디아·리플렉션·마이크로소프트(MS)·아마존웹서비스(AWS) 등 7개사와 협약을 체결했는데, 앞서 공급망 위험 기업으로 지정한 앤스로픽을 이번 협약에도 제외했다. 기존에 미 국방부 등 정부기관에 AI를 공급해온 앤스로픽은 자사 기술이 완전자율형 살상무기나 자국민 감시에 쓰이는 것에 반대하면서 트럼프 행정부와 수개월째 갈등을 빚고 있다.

팽동현 기자 dhp@dt.co.kr

오픈AI 챗GPT로 그린 이미지.