“통제 뚫고 공격 위험”…오픈AI, 차세대 ‘아스트라’ 개발 중단

앤스로픽-메타-문샷AI 등 통제 벗어난 AI
안전장치가 성능 못따라가 보안 우려 커져

(AP 뉴시스)

오픈AI가 출시를 준비해 온 차세대 인공지능(AI) 모델 ‘아스트라’ 개발에 제동을 걸었다. 내부 평가에서 기존 최신 모델보다 한 단계 높은 ‘위험(Critical)’ 수준의 사이버 공격 능력을 갖췄을 가능성을 발견했기 때문이다. 최근 빅테크의 AI 모델이 보안 시험 과정에서 통제 범위를 벗어나는 사고가 잇따르면서, AI 성능 향상 속도를 기존 안전장치가 따라가지 못하고 있다는 우려가 커지고 있다.

● 보안 위험 가능성에 개발 제동

오픈AI는 7일(현지 시간) 공식 발표를 통해 “아스트라 관련 내부 평가 결과 ‘위험’ 단계의 사이버 능력을 갖췄을 가능성을 배제할 수 없다고 판단했다”고 밝혔다. ‘위험’은 사람의 개입 없이 핵심 시스템의 알려지지 않은 취약점(제로데이)을 찾아 공격하거나, 목표만 주어져도 공격 방법을 스스로 짜고 실행할 수 있는 수준이다. 오픈AI의 기존 최신 모델인 ‘GPT-5.6 솔’ 등은 사이버 능력이 그보다 아래 단계인 ‘높음(High)’으로 평가돼 왔다.

아스트라는 코딩, 사이버 보안 등 복잡한 작업을 스스로 수행하는 능력을 높인 모델로 알려졌다. 최근 오픈AI는 아스트라가 10년 이상 해결되지 않았던 수학 난제 10개를 풀었다고 밝히기도 했다. 하지만 강력한 성능이 오히려 개발의 발목을 잡았다. 내부 평가에서 아스트라의 코딩·사이버 공격 능력이 기존 모델보다 크게 높아진 것으로 나타나자 오픈AI는 일부 개발과 평가 작업을 일시 중단했다. 아스트라가 강력한 사이버 공격 능력을 갖췄을 가능성을 고려해 보안 수준을 강화하기로 하고, 새 보안 기준이 적용되지 않은 개발 작업은 일단 멈추기로 한 것이다.

월스트리트저널(WSJ)은 이번 조치를 “AI 개발사가 보안 우려 때문에 모델 개발을 공개적으로 늦춘 이례적인 사례”라고 평가했다. 그동안 AI 기업들이 위험성이 높은 모델의 공개 범위를 제한하거나 출시 전 안전장치를 추가한 적은 있었지만, 개발 단계에서부터 보안 수준을 높이기 위해 작업 일부를 공개적으로 멈추는 경우는 드물었다.

아스트라에 대한 경계가 높아진 배경에는 최근 잇따른 보안 사고도 있다. 지난달 오픈AI의 모델은 사이버 능력 시험 중 차단된 환경의 허점을 스스로 찾아 외부 인터넷에 접속한 뒤 허깅페이스의 실제 서버까지 침투했다. 앤스로픽의 클로드 모델도 시험 과정에서 인터넷에 접속해 3개 기관의 실제 시스템에 무단 접근했고, 이달 들어서도 메타의 ‘뮤즈 스파크 1.1’이 외부 평가업체의 설정 오류를 틈타 다른 회사 시스템에 침입했다.

중국 모델도 예외가 아니다. 문샷AI의 ‘키미 K3’는 최근 영국 AI안전연구소가 개발한 사이버 보안 시험용 샌드박스를 우회해 외부 정보를 검색한 것으로 확인됐다. 실제 외부 시스템을 해킹하지는 않았지만, 문제 해결을 위해 제한된 환경 밖의 정보에 스스로 접근한 것이다.

● 전문가들 “모델 아닌 시험환경도 함께 검증해야”

전문가들은 AI의 문제 해결 능력이 빠르게 높아지는 만큼 모델 자체뿐 아니라 이를 시험하는 환경과 외부 시스템 접근까지 함께 통제하는 보안 체계가 필요하다고 지적한다. 실제 최근 사고 가운데 상당수는 모델 자체의 이상 행동뿐 아니라 허술한 네트워크 설정과 외부 도구 권한 등 시험 환경의 취약점이 결합해 발생했다.

이성엽 고려대 기술경영전문대학원 교수는 “AI 모델의 위험한 답변을 막는 안전장치뿐 아니라 샌드박스 격리, 접근 권한, 실시간 행동 감시까지 개발과 평가 환경 전체를 점검해 모델 성능 시험이 실제 보안사고로 이어지지 않도록 관리해야 한다”고 말했다. 김승주 고려대 정보보호대학원 교수는 “고성능 AI의 공격에도 견딜 수 있는 튼튼한 샌드박스를 구축하는 데 보안 전문가들의 역량을 모을 필요가 있다”고 말했다.

전혜진 기자 sunrise@donga.com