오픈AI, "차기 모델 ‘아스트라’, 사이버 공격 역량 ‘임계치’ 도달했다"... 제한적 공개

'익스플로잇 체이닝' 구현... 벤치마크 100% 기록
시스코·팔로알토네트웍스 등에 우선 접근권 부여

오픈AI 차세대 AI 모델 아스트라'(Astra)가 사람 개입 없이 제로데이 취약점을 찾아 공격할 수 있는 수준에 올랐다. 안전 장치를 추가해 조만간 일반 공개한다는 계획이다.  

오픈AI는 최근 아스트라 개발 과정에서 아스트라가 자사 안전 프레임워크 기준상 '임계'(Critical) 수준에 해당하는 사이버 역량을 확인했다고 1일 밝혔다.  

[출처: 연합]

오픈AI '준비도 프레임워크'(Preparedness Framework)에 따르면, AI가 실제 환경에서 미공개 취약점을 스스로 찾아내 이를 익스플로잇(exploit)할 수 있는 단계에 이르면 임계 위험 단계로 규정된다.

오픈AI는 규정에 따라 아스트라 및 향후 모델의 일부 학습 작업을 수주간 중단하고 내부 보안 조치를 재정비했다. 이후 추가 안전·보안 제어 장치를 구축해 개발을 재개, 조만간 일반 공개 버전을 출시할 수 있을 만큼 안전성을 확보했다고 밝혔다.

아스트라는 단일 소프트웨어 취약점을 찾아 공격하는 수준을 넘어 여러 취약점을 연쇄적으로 엮어 방어망을 뚫고 목표 시스템 심층부까지 침투하는 '익스플로잇 체이닝'(Exploit Chaining)을 자율적으로 수행할 수 있다.

오픈AI가 공개한 성능 지표에 따르면 아스트라는 사이버 보안 벤치마크 '익스플로잇벤치'(ExploitBench)에서 100% 점수를 기록했다. 이는 GPT-5.6 솔(Sol)이나 앤트로픽 미토스 등 기존 주요 선도 모델을 상회하는 수치다. 

오픈AI는 고도화된 공격 역량이 악용되는 것을 막기 위해 일반 사용자용 버전엔 다단계 방어 체계를 적용한다. '오정렬 모니터'(Misalignment Monitor) 기능으로 실제 소프트웨어 시스템의 익스플로잇을 찾는 등 악의적 요청은 실시간 감지해 거부하게 했다. 탈옥 시도에 저항하는 역량도 키워 안전하지 않은 요청을 보다 많이 차단하게 했다.

이에 따라 정상 작업까지 잠재적 위협으로 오인해 모델 응답이 지연 또는 중단되거나, 챗GPT 및 코덱스 사용자에게 추가 검토를 요구하는 경우가 생길 수 있다. 

오픈AI는 방어 역량을 선제적으로 확충할 수 있도록 '데이브레이크 블루'(Daybreak Blue) 프로그램 참여 기업과 기관에 아스트라를 우선 공개한다. 시스코, 클라우드플레어, 팔로알토네트웍스 등 주요 디지털 인프라 및 보안 기업과 정부 협력 기관에 제한이 완화된 아스트라 버전이 먼저 공급된다. 

지난달 오픈AI의 격리 테스트 환경에서 에이전트가 외부 인터넷으로 탈출해 허깅페이스를 침투한 사건이 발생한 바 있다. 앤트로픽과 메타 등 주요 AI 기업들도 유사한 보안 위협을 보고하며 훈련을 일시 중단하는 등 안전 기준 강화에 속도를 내고 있다.