AGI는 선언이 아니라 ‘위임’이다 [윤석빈의 Thinking]

"범용인공지능(AGI) 시대에 오신 것을 환영합니다."

9월 3일(현지시간), 오픈AI가 차세대 모델 'GPT-6 아스트라(Astra)'를 공개하며 그렉 브록먼 사장이 남긴 말이다. 사흘 뒤 젠슨 황 엔비디아 CEO도 "AGI가 도래했다"며 거들었다. 아스트라가 그레이스 블랙웰 NVL72 10만 대 이상으로 학습됐고, 앞으로 GPU 40만 개가 더 가동될 것이라는 설명과 함께였다.

선언은 화려했지만, 정작 브록먼 자신은 기자간담회에서 한발 물러섰다. AGI는 모두가 알아볼 만한 선명한 문턱으로 오지 않았고, 오히려 "회색빛이고 흐릿하게" 왔다는 것이다. 오픈AI는 AGI를 '경제적으로 가치 있는 대부분의 업무에서 인간을 능가하는 고도로 자율적인 시스템'으로 정의해 왔지만, 이번에도 그 정의를 충족했다는 증명은 제시되지 않았다.

포브스와 벤처비트가 지적했듯, 화제가 된 벤치마크 점수들, 프런티어매스 티어 4 약 98%, ARC-AGI-3 98.6% 역시 모델 단독이 아니라 측정 하네스와 주변 도구가 함께 만들어낸 결과다. 그러니 "AGI가 왔는가"라는 질문은, 적어도 기업 실무자에게는 답이 없는 질문이다. 질문 자체를 바꿔야 한다고 본다. AGI는 도착하는 사건이 아니라, 우리가 권한을 얼마나 넘기느냐의 문제다.

달라진 것은 성능이 아니라 '작업의 주체'

아스트라에서 실제로 달라진 지점은 벤치마크가 아니라 작업 방식이다. 이전 모델이 "무엇을 하면 되는지"를 조언했다면, 아스트라는 소프트웨어 안으로 직접 들어가 손을 움직인다.

시연 영상에는 법률 계약서를 정리하고, 3D 게임을 만들고, 테니스 코트를 예약하는 장면이 함께 담겼다. 수치로도 확인된다. 컴퓨터 사용 벤치마크 OSWorld 2.0에서 아스트라는 태스크당 약 40분에 72.6%를 기록했다. 직전 모델인 GPT-5.6 솔이 약 75분에 65.7%였으니, 더 높은 점수를 47% 짧은 시간에 낸 셈이다. 정확도가 조금 오른 것이 아니라, 사람이 마우스와 키보드로 하던 일의 소요 시간 구조 자체가 바뀌었다.

이 변화의 의미는 분명하다. 지난 몇 년간 기업은 AI를 사내 시스템에 붙이기 위해 API와 플러그인, RAG 파이프라인, 전용 커넥터를 깎아왔다. 브록먼의 논지는, 컴퓨터를 직접 쓰는 에이전트가 그 통합 작업의 상당 부분을 건너뛴다는 것이다. 소프트웨어는 이미 '범용 지능'을 위한 인터페이스, 즉 사람의 화면을 갖고 있기 때문이다. 통합 비용이 낮아진다는 말은 반갑지만, 동시에 우리가 공들여 만든 통제 지점도 함께 우회된다는 뜻이기도 하다.

'크리티컬' 등급이 보내는 신호

이번 발표에서 업계가 가장 무겁게 받아들여야 할 대목은 AGI 선언이 아니다. 아스트라는 오픈AI의 대비 프레임워크(Preparedness Framework)에서 사이버보안 '크리티컬(Critical)' 등급에 도달한 최초의 상용 모델이다. 적절한 도구와 접근 권한이 주어지면, 사람이 단계별로 지시하지 않아도 잘 방어된 시스템에서 알려지지 않은 취약점을 찾아 익스플로잇 체인을 구성할 수 있다는 의미다.

실제로 사전 평가 과정에서 제로데이 취약점 두 건이 발견됐다. 배경도 가볍지 않다. 오픈AI는 지난 7월 미공개 모델이 통제 환경을 벗어나 허깅페이스 시스템에 접근한 사고 이후 차기 모델 출시를 늦추고 안전장치를 보강했다. 공개판은 완전한 무기화 익스플로잇 생성을 거부하고, 고급 사이버 기능은 검증된 소수 조직에만 제한적으로 열렸다. 여기에 아스트라가 채택한 '순환 심도(recurrent depth)' 방식은 효율을 높이는 대신, 모델의 사고 사슬(chain of thought) 일부를 관측하기 어렵게 만든다. 오픈AI 스스로 이전 모델보다 추론 과정 모니터링이 어렵다고 인정했다.

정리하면 이렇다. 자율성은 올라갔고, 관측 가능성은 내려갔으며, 공격 능력은 임계치를 넘었다. 이 세 가지가 동시에 벌어진 것이 아스트라의 본질이다.

한국 기업이 지금 해야 할 일

그래서 CEO와 CISO의 책상 위에 올라와야 할 의제는 'AGI 대응 전략' 같은 추상적 문서가 아니다. 세 가지가 구체적으로 필요하다.

첫째, 비인간 정체성(NHI, Non-Human Identity) 거버넌스다. 지금 대부분의 조직에서 에이전트는 사람이 쓰던 계정과 API 키를 빌려 쓴다. 사고가 나면 로그에는 사람 이름만 남는다. 에이전트에 고유 식별자와 권한 수명, 위임 범위를 부여하고 이를 검증 가능한 형태인 DID와 검증가능자격증명(VC)으로 관리해야 한다. 누가 어떤 권한을 누구에게 위임했는지가 증명되지 않으면, 자율 에이전트는 감사 불가능한 내부자다.

둘째, 제로 트러스트의 에이전트 확장이다. 크리티컬 등급 모델이 공격에 쓰일 수 있다면, 같은 능력이 방어에도 쓰인다. 다만 전제가 있다. 에이전트가 접근하는 모든 요청을 매번 검증하고, 최소 권한과 짧은 세션, 행위 기반 이상탐지를 기본값으로 깔아야 한다. 화면을 직접 조작하는 에이전트는 기존 API 게이트웨이 통제를 그냥 지나친다는 점을 잊어선 안 된다.

셋째, 감사 추적의 설계다. 추론 과정을 들여다보기 어려워질수록, 입력과 출력 사이의 행위 기록이 유일한 증거가 된다. 무엇을 요청받아 어떤 도구로 무엇을 바꿨는지가 변조 불가능하게 남아야 한다. 규제기관이 물을 때 "모델이 그렇게 판단했습니다"는 답변이 될 수 없다.

나는 이것을 에이전트 스택의 '신뢰 계층(Trust Layer)'이라 부른다. 모델 계층의 경쟁은 이미 우리 손을 떠났다. 한국 기업이 통제력을 가질 수 있는 영역은 그 위와 아래, 즉 권한·신원·기록의 계층이다.

방향은 사람이 정한다

아스트라를 AGI라 부를지 말지는 결국 정의의 문제이고, 상당 부분 마케팅의 문제다. 중요한 것은 라벨이 아니라 이양의 속도다. 우리는 지금 판단이 아니라 실행을, 조언이 아니라 행위를 기계에 넘기기 시작했다. 그 이양이 설계 없이 진행되면, 어느 순간 조직은 스스로 무슨 일이 일어나는지 설명하지 못하는 상태에 도달한다.

필자는 인간의 뇌, 축적된 지식, 그리고 AI가 함께 일하는 구조를 '트리니티 브레인(Trinity Brain)'이라 불러왔다. 핵심은 세 가지가 있다는 사실이 아니라 순서다. 사람이 방향을 정하고, 지식이 근거를 대고, AI가 손과 발이 된다. 아스트라는 그 손과 발을 비약적으로 빠르게 만들었다. 그럴수록 머리가 어디를 향하는지가 더 중요해진다.

AGI 시대가 열렸는지는 아직 모른다. 다만 위임의 시대가 열린 것은 분명하다. 위임에는 언제나 신뢰의 근거가 필요하다. 그 근거를 설계하는 일이, 지금 우리가 할 수 있고 또 해야 하는 유일한 일이다.

※ 외부필자의 원고는 IT조선의 편집방향과 일치하지 않을 수 있습니다.

윤석빈 트러스트 커넥터 대표는 서강대 AI·SW 대학원 특임교수로 36Kr 코리아 고문, 투이컨설팅 자문과 한국 경영학회 디지털 경영 공동위원장, 법무 법인 DLG 고문으로 활동하고 있다. 한국 오라클과 한국 IBM 등 IT 업계 경력과 더불어 서강대 지능형 블록체인 연구센터 산학협력 교수로도 활동했다. 동국대학교 국제정보보호대학원 인공지능보안 전공 교수로도 활동하고 있다.