"출시 전 30일간 검증"…백악관, AI기업과 '해킹 방지' 방안 비공개 논의

연방 정부와 '신뢰할 수 있는 파트너' 모델 공유…보고 방식, 세부 지표는 '기밀'

[아이뉴스24 박정민 기자] 주요 인공지능(AI) 모델이 외부 기관 시스템에 침입하는 보안 사고가 발생한 가운데, 도널드 트럼프 미국 행정부가 AI의 해킹을 방지하는 보안 테스트 방안을 확정한 것으로 파악됐다.

로이터 통신과 미 온라인 매체 악시오스는 3일(현지시간) 백악관 관계자를 인용해 트럼프 정부가 최첨단 AI 모델의 해킹 능력을 측정하기 위한 사이버 보안 테스트 세부 사항을 확정했다고 보도했다.

미 행정부는 오는 4일 오픈AI와 앤트로픽, 구글, 메타 등 주요 AI 개발사들을 백악관으로 불러 관련 내용을 논의할 예정이다.

이 테스트 방안은 AI 개발사들이 신규 모델을 정식 출시하기 전 최대 30일 동안 연방 정부와 '신뢰할 수 있는 파트너'에 모델을 조기 제공해 검증받도록 하는 구조를 담고 있다.

다만 백악관 관계자는 결과에 대한 보고 방식이나 테스트에 어떤 지표를 사용할지 등 세부 내용은 밝히지 않았다. 이는 관련한 성능 지표(벤치마크)와 기준 수치 등이 행정명령 상 '기밀'로 지정됐기 때문인 것으로 해석된다.

트럼프 대통령은 지난 6월 행정명령을 통해 최첨단 AI 시스템의 해킹 가능성 등 안전성을 평가하는 테스트 기준을 마련하라고 지시한 바 있다.

이번 AI 보안 논의는 오픈AI와 앤트로픽의 AI 모델이 인간의 명시적인 지시가 없는데도 외부 기업 시스템에 침입했다는 사실이 드러난 직후 이뤄지는 것이라는 점에서 주목된다.

오픈AI는 최근 자사 GPT 모델들이 외부 AI 플랫폼인 '허깅페이스' 등을 해킹했다고 밝혔고, 앤트로픽도 최근 AI 모델의 과거 행동을 검토한 결과 3개 기업 시스템에 무단 침입한 사실을 공개한 바 있다.

샘 올트먼 오픈AI 최고경영자(CEO)는 최근 백악관을 방문해 '아스트라'라는 이름으로 알려진 자사 차세대 모델을 소개하고, 테스트 관련 세부 내용을 논의했다.

IT/과학