‘미토스’가 무기 될라…트럼프, AI 통제 빗장 걸자 업계 발칵

CAISI 평가 보고서 발행 중단 지시
사이버 공격·생물학 무기 지원 우려
정부 AI 통제 강화…업계 반발 커져
“AI 모델 배포 늦고 성장 저해할 것”

보안 특화 모델인 ‘미토스’를 선보인 미국 AI 기업 ‘앤스로픽’의 로고. 연합뉴스

트럼프 행정부가 정부 인공지능(AI) 테스트 기관에 모델 평가 보고서 발행을 중단하라고 지시했다. 앤스로픽의 ‘미토스’ 등 진화된 AI를 정부 관리하에 두겠다는 의미다. 그러나 업계에서는 자율성을 배제할 경우 모델 개발에 제동이 걸릴 가능성이 크다며 반감이 커지고 있다.

9일(현지시간) 월스트리트저널(WSJ)에 따르면 트럼프 행정부는 ‘AI표준혁신센터(CAISI)’에 평가 보고서 발행 중단을 지시했다. 이는 트럼프 대통령이 지난주 서명한 행정명령이 시행되는 동안 적용된다.

이번 지시는 행정부가 AI 모델 통제를 강화하고 있다는 시그널로 분석된다. 그동안 숀 케언크로스 국가사이버국장과 스콧 베센트 재무장관은 모델 평가 시 보안 고려 사항을 높여야 한다고 주장해 왔다.

행정부가 통제에 나선 것은 최근 미토스를 비롯한 진화된 AI 모델이 사이버 공격을 실행하거나 생물학 무기 개발을 지원할 가능성이 제기되며 우려가 커졌기 때문이다. 이에 행정부는 앤스로픽·오픈AI와 협력해 접근 권한을 통제하고 기업들이 국가 안보를 보호하도록 노력하고 있다.

그동안 CAISI는 연구 결과를 대중·연구자와 공유해 왔다. 그러나 안보 기관이 통제권을 더 갖게 될 경우 이 관행은 지속되기 어렵다. 지난주 백악관은 국가안보 메모의 AI 위협 항목을 발표하며 CAISI를 제외했다. 또 지난달 CAISI가 마이크로소프트(MS)·구글·일론 머스크의 AI 기업과 협력하겠다고 한 발표를 삭제하라고 지시했다. 지난 4월에는 전직 앤스로픽 연구원이 CAISI 경영진에 오른 뒤 며칠 만에 백악관이 사임을 요구하기도 했다.

CAISI의 공개 활동 중단을 두고 내부에서는 케언크로스 국장이 평가 과정에서 더 많은 영향력을 행사하려는 것에 부정적인 의견을 내놓았다. 행정명령으로 CAISI가 이미 하던 일을 새로운 조직에 맡겼다는 설명이다. 반면 오픈AI 등 기업들은 CAISI의 중요성을 행정부와 논의해 왔다. 벤처투자자 데이비드 색스 등 백악관 AI 자문들은 과도한 모델 검증이 배포를 늦추고 성장을 저해할 수 있다고 경고했다.

오픈AI는 지난주 CAISI에 더 많은 자원과 책임을 부여해 강화해야 한다고 촉구했다. 크리스 레헤인 오픈AI 글로벌담당 최고책임자는 “이 기관이 정교한 테스트가 가능하고 선도 기업들과 관계를 맺고 있다”고 말했다.

이에 대해 리즈 휴스턴 백악관 대변인은 “트럼프 대통령의 AI 어젠다 실행은 범정부 차원의 노력”이라며 “케언크로스 국장은 혁신을 촉진하며 국민을 보호하는 훌륭한 일을 하고 있다”고 강조했다.

한편 상무부 산하 CAISI는 AI 모델 출시 전 이를 검증하고 성능 정보를 공개하는 정부 핵심 기관이다. 사이버보안·생물무기 등 AI 위협을 완화하는 주요 수단으로 꼽힌다. CAISI는 바이든 행정부 시절부터 오픈AI 등 주요 개발사와 관계를 맺고 있다.

박시진 기자 see1205@sedaily.com