“자체 AI가 보안망 뚫었다”…오픈AI, 몸값마저 1500억달러 하향
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
| 서울=한스경제 김진영 기자 | 오픈AI가 인공지능(AI) 기술과 자본시장 양쪽에서 시험대에 올랐다. 자체 개발한 AI 모델이 내부 보안 통제망을 우회하면서 최첨단 모델의 훈련을 중단하는 사태가 발생.
오픈AI는 사고 직후 최상위 모델의 훈련과 평가를 중단하고 격리 환경인 '샌드박스'와 외부 네트워크 사이의 통제를 강화했다.
AI가 소프트웨어의 숨겨진 취약점을 찾아 보안 강화에 기여하는 동시에, 같은 능력으로 내부 통제망까지 우회할 수 있다는 양면성이 드러났다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
300억달러 신규 투자 추진…기존 투자자 피로감 확산
| 서울=한스경제 김진영 기자 | 오픈AI가 인공지능(AI) 기술과 자본시장 양쪽에서 시험대에 올랐다. 자체 개발한 AI 모델이 내부 보안 통제망을 우회하면서 최첨단 모델의 훈련을 중단하는 사태가 발생. 대규모 투자 유치 과정에서는 당초 제시한 기업가치를 1500억달러 낮춘 것으로 전해졌다. AI의 자율성이 높아질수록 이를 통제하는 부담도 커지는 가운데 천문학적인 개발비를 뒷받침할 투자 열기마저 이전보다 식고 있다는 분석이 나온다.
24일 업계에 따르면 오픈AI는 최근 투자 유치 협상에서 기업가치 목표를 기존 1조4000억달러에서 1조2500억달러(약 1652조원)로 낮췄다. 내년 기업공개(IPO)를 앞두고 추진 중인 300억달러 규모의 자금 조달 협상이 마무리 단계에 접어든 가운데 이뤄진 조정이다.
새로운 목표치가 확정되더라도 종전 기업가치인 8520억달러보다는 약 47% 높은 수준이다. 다만 투자자에게 최초 제시한 평가액에서 약 10.7%를 낮췄다는 점은 주목할 만하다. 막대한 AI 인프라 투자에 대한 시장의 경계감이 높아지면서 오픈AI의 성장 기대치에도 보다 엄격한 잣대가 적용되고 있다는 해석이다.
▲스스로 가드레일 우회…최첨단 모델 훈련까지 중단
기업가치 조정과 별개로 AI 기술 자체의 통제 가능성도 과제로 떠올랐다. 오픈AI는 지난 23일 내부 연구용 AI 모델이 지난 9월 시스템 설정 오류를 이용해 제한된 외부 인터넷 접근 권한을 확보한 사실을 공개했다. 연구진이 설정한 보안 경계를 AI가 우회한 것이다.
오픈AI는 사고 직후 최상위 모델의 훈련과 평가를 중단하고 격리 환경인 '샌드박스'와 외부 네트워크 사이의 통제를 강화했다. 이후 강력한 AI 에이전트들을 동원해 격리망 탈출을 시도하도록 하는 자체 침투 테스트를 진행했으며, 보안 조치를 보완한 뒤 지난 1일 강화학습 훈련과 내부 추론 작업을 재개했다.
테스트 과정에서는 AI의 양면성도 확인됐다. 에이전트들은 오픈AI의 내부 보안 결함뿐 아니라 구글의 오픈소스 데이터 압축 도구 '브로틀리(Brotli)'에 존재하는 잠재적 취약점까지 찾아냈다. 해당 결함은 공격자가 조작된 데이터를 이용해 영향을 받는 시스템에서 악성 코드를 실행할 수 있는 위험과 관련돼 있으며, 이후 수정 버전이 배포됐다.
AI가 소프트웨어의 숨겨진 취약점을 찾아 보안 강화에 기여하는 동시에, 같은 능력으로 내부 통제망까지 우회할 수 있다는 양면성이 드러났다.
외부 평가에서도 통제 체계의 한계가 지적됐다. AI 안전평가 기관 METR과 레드우드리서치는 앞서 실시한 시범 검증에서 AI 에이전트의 최근 활동 수백 건을 중앙 감시체계에서 누락시킬 수 있는 취약점을 발견했다고 밝혔다. 오픈AI는 실제 운영 환경에 영향을 미치는 관련 결함을 모두 보완했다는 입장이지만, 두 기관의 독립적인 재검증은 아직 이뤄지지 않았다.
▲투자 열기도 예전 같지 않아…성장 비용 부담 부각
기술 고도화에 필요한 자금을 조달하는 여건도 달라지고 있다. 오픈AI는 지난해 3월 400억달러, 올해 3월에는 1220억달러를 유치하며 AI 투자 열풍의 중심에 섰다. 그러나 이번 투자 라운드에서는 과거와 달리 투자 수요가 예전만 못한 것으로 알려졌다.
투자은행 모건스탠리가 주도하는 자금 조달 과정에서 일부 기존 투자자는 연이은 대규모 투자에 피로감을 나타낸 것으로 전해졌다. 여기에 차입을 동반한 AI 인프라 투자의 지속 가능성을 둘러싼 우려와 미국 기술주 약세가 겹치면서 기업가치 협상에도 부담이 커진 것으로 풀이된다.
보안 사고가 이번 기업가치 하향 조정의 직접적인 원인으로 확인된 것은 아니다. 다만 두 사안은 오픈AI가 직면한 과제를 서로 다른 측면에서 보여준다. 더 강력한 AI를 개발하는 데 그치지 않고 스스로 행동하는 모델을 안전하게 관리해야 하는 동시에, 늘어나는 개발·인프라 비용에 상응하는 성장 가능성을 투자자에게 설득해야 하는 상황이다.
오픈AI가 내년 IPO를 추진하는 만큼 향후 관건은 기술적 우위를 실질적인 사업성과와 투자 신뢰로 연결할 수 있느냐다. AI 에이전트의 성능 향상이 새로운 기회인 동시에 통제 비용과 운영 위험을 키우고 있다는 점에서 기술 경쟁력뿐 아니라 안전성 입증과 안정적인 자금 확보가 기업가치 평가의 주요 변수로 부상하고 있다.
Copyright © 한스경제 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받는 바, 무단 전재와 복사, 배포 등을 금합니다.