백악관, 프런티어 AI 출시 전 보안검증 틀 확정… 오픈AI·앤트로픽·구글·메타와 적용방안 논의

벤치마크·검증 대상 기준 기밀… 최근 AI 침입 사고로 논의 급물살

[디지털데일리 구아현기자] 미국 백악관이 프런티어 인공지능(AI) 모델의 사이버 공격 능력을 평가하기 위한 보안검증 틀을 확정했다. 백악관은 오픈AI와 앤트로픽, 구글, 메타 등 주요 AI 기업을 불러 실제 적용 방안을 논의한다.

3일(현지시간) 로이터통신과 악시오스 등에 따르면 백악관은 지난 6월 도널드 트럼프 미국 대통령의 행정명령에 따라 마련해 온 프런티어 AI 보안검증 프레임워크를 완성했다.

백악관 관계자는 “행정명령에 명시된 자발적 프레임워크를 기한 안에 완성했다”며 “다음 단계를 두고 업계와 논의를 진행하고 있다”고 밝혔다.

백악관은 4일 오픈AI와 앤트로픽, 구글, 메타 관계자들을 초청해 실무급 회의를 열 예정이다. 오픈AI와 앤트로픽, 구글은 확정 전 프레임워크 초안에 의견을 제출한 것으로 전해졌다. 메타도 백악관으로부터 초청받은 사실을 확인했다.

다만 백악관은 프레임워크 원문을 공개하지 않았다. 평가 결과를 어떤 방식으로 보고할지, 어떤 지표를 사용할지, 결과를 외부에 공개할지도 밝히지 않았다. 실제 시행 시점과 첫 검증 대상 모델도 알려지지 않았다.

프레임워크 자체는 기밀로 지정되지 않았다. 그러나 AI 모델의 사이버 공격 능력을 평가하는 벤치마크와 정부 검증 대상인 ‘프런티어 모델’을 가르는 기준은 국가안보를 이유로 기밀로 분류됐다. 해당 기준은 필요한 경우 AI 개발사와 연구자에게만 공유된다.

앞서 트럼프 대통령은 지난 6월2일 행정명령을 통해 AI 기업이 고성능 모델을 외부에 공개하기 전 최대 30일간 정부에 접근 권한을 제공할 수 있는 자발적 검증 체계를 마련하라고 지시했다. 행정명령은 이를 강제적인 출시 승인이나 인허가 제도로 해석할 수 없다고 명시했다.

프레임워크 마련은 지난 6월부터 진행됐지만 최근 오픈AI와 앤트로픽의 AI 모델이 시험 과정에서 실제 외부 시스템에 침입한 사실이 잇달아 공개되면서 논의에 속도가 붙었다.

오픈AI는 지난달 사이버 공격 능력을 시험하던 GPT-5.6 솔과 내부 연구모델이 격리된 환경의 취약점을 뚫고 인터넷에 접속한 뒤 AI 개발 플랫폼 허깅페이스의 시스템에 침입했다고 밝혔다. 모델은 시험 문제의 답을 찾는 과정에서 허깅페이스가 관련 정보를 보유했을 가능성을 스스로 판단해 공격을 이어갔다.

앤트로픽도 자체 사이버보안 시험 기록 14만1006건을 재검토한 결과 클로드 오푸스 4.7과 미토스 5, 내부 연구모델이 실제 기업 세 곳의 시스템에 무단 접근한 사실을 확인했다. 시험환경 설정 오류로 인터넷이 열려 있었고 모델들은 실제 시스템을 모의훈련 대상으로 오인했다.

미국 정치권의 압박도 커지고 있다. 공화당 소속 15개 주 법무장관은 오픈AI에 허깅페이스 침입 사고와 관련된 자료를 보존하라고 요구했다. 미 하원 사이버보안 관련 위원회도 샘 올트먼 오픈AI 최고경영자에게 사고 경위와 대응 방안을 보고하라고 요청했다.

보안검증 틀 확정에 앞서 샘 올트먼 CEO는 지난달 30일 백악관을 방문해 수지 와일스 비서실장과 션 케언크로스 국가사이버국장, 마이클 크라치오스 과학기술정책실장 등을 만났다. 올트먼은 이 자리에서 출시를 준비 중인 차세대 AI 모델과 정부의 자발적 사이버보안 시험 적용 방안을 논의한 것으로 전해졌다.

오픈AI가 워싱턴 정가에 소개한 차세대 모델 ‘아스트라’는 여러 AI 에이전트가 장시간 작업을 분담하고 협업하는 다중 에이전트 시스템으로 알려졌다. 오픈AI도 아스트라를 ‘차기 주요 모델’로 공식 언급하며 고차원 기하학과 군론, 양자 복잡도 등에서 10개의 새로운 수학·이론컴퓨터과학 우수한 결과를 냈다. 모델이 만든 논리는 수학 증명 검증 도구인 ‘린’으로 다시 검증됐다.

해법을 찾는 데 사용한 토큰 비용은 GPT-5.6 솔의 응용프로그램인터페이스(API) 가격 기준 약 2000달러로 추산됐다. 다만 아스트라가 정부 보안시험에 제출됐거나 첫 검증 대상으로 확정됐다는 사실은 공개되지 않았다.