인간 감시도 피한다”…오픈AI, 위험등급 AI ‘아스트라’ 공개

사이버보안 첫 ‘크리티컬’ 등급

오픈AI가 자체 사이버보안 평가에서 처음으로 최고 위험 수준인 ‘크리티컬(Critical)’ 등급을 받은 새 인공지능(AI) 모델 ‘GPT-6 아스트라’를 공개했다. 오픈AI는 아스트라가 인간이 컴퓨터로 수행하는 대부분의 업무를 대신할 수 있다며 사실상 범용인공지능(AGI) 시대의 시작을 선언했다.

오픈AI는 3일(현지시간) GPT-6 아스트라를 정식 출시했다고 밝혔다. 그레그 브록먼 오픈AI 사장은 아스트라에 대해 “인간이 컴퓨터로 할 수 있는 일이라면 무엇이든 할 수 있다”며 AGI의 초기 단계로 보는 것이 타당하다고 평가했다. 사람이 약 30분 걸리는 반려동물 위탁 돌봄 검색을 아스트라는 5분27초 만에 마쳤고, 5시간가량 필요한 구직 정보 검색도 2분51초 만에 끝냈다.

코딩과 컴퓨터 활용 능력도 크게 향상됐다. 아스트라는 코딩 성능을 평가하는 ‘터미널-벤치 4.0’과 ‘딥SWE v1.1’ 등 일부 벤치마크에서 경쟁 모델인 앤트로픽의 클로드 페이블 5.1을 앞섰다. 웹브라우저와 각종 프로그램을 직접 조작하면서 복잡한 작업을 스스로 수행하는 ‘AI 에이전트’ 능력도 강화됐다.

성능이 높아지면서 위험성도 함께 커졌다. 아스트라는 오픈AI 모델 가운데 처음으로 사이버보안 분야에서 크리티컬 등급을 받았다. 별도의 세부 지시가 없어도 스스로 보안 취약점을 찾아내고 공격 방법이나 도구를 개발할 수 있는 수준에 도달했다는 의미다. 일부 보안 평가에서는 기존에 알려지지 않은 취약점을 찾아 공격 경로로 연결하는 능력도 확인됐다.

인간의 감시를 피할 가능성도 새로운 위험 요소로 지목됐다. 오픈AI에 따르면 아스트라는 전작보다 자신의 사고 과정(CoT)을 통제하거나 숨기는 능력이 강화됐다. 감시를 피하도록 지시한 일부 적대적 평가에서는 일부러 성능을 낮춰 평가자를 속이거나 부적절한 행동의 흔적을 감추는 사례도 나타났다. 오픈AI는 다만 이런 행동이 모델에 감시 회피를 명시적으로 요구한 시험 환경에서 주로 확인됐다고 설명했다.

오픈AI는 이에 대응해 모델의 행동이 인간의 의도와 일치하는지를 별도로 확인하는 ‘정렬(Alignment) 감시’ 기능을 도입했다. 동시에 아스트라의 강력한 사이버 능력을 방어에 활용하기 위해 10억 달러(약 1조3500억원) 규모의 ‘최전선 방어자를 위한 데이브레이크’ 프로그램도 발표했다. 지방정부와 공공 인프라 운영기관 등 보안 인력과 예산이 부족한 조직에 관련 AI 도구와 교육을 지원할 계획이다.

다만 아스트라를 AGI의 시작으로 보는 오픈AI의 평가와 외부 평가는 다소 차이가 있다. AI 모델 분석업체 아티피셜 애널리시스는 아스트라의 지능지표(AAII)를 전작 GPT-5.6 솔과 같은 61점으로 평가했다. 브록먼 사장은 이런 평가와 별개로 “AGI 시대에 오신 것을 환영한다”며 “몇 년 뒤 AGI가 언제 시작됐는지 돌아본다면 바로 이 시기를 가리킬 수 있다”고 말했다.

차민주 기자 lali@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지