오픈AI, 안전성 우려에 신모델 출시 철회···사용자 허락 없이 작업하고, 기만적 성향도 강해져

한 남성이 지난 17일(현지시간) 미국 캘리포니아주 샌프란시스코에서 열린 드림포스 2026 기술 정상회의 기간 중 모스콘 센터에 마련된 오픈AI 부스 앞을 지나가고 있다. 로이터연합뉴스

오픈AI가 차세대 인공지능(AI) 모델 ‘GPT-6.1 아스트라’의 출시를 안전성 우려로 철회했다.

월스트리트저널(WSJ)은 28일(현지시간) GPT-6.1 아스트라가 당초 다음 달 오픈AI의 대화형 AI 서비스 챗GPT와 코딩 도구 코덱스에 탑재될 예정이었으나, 출시 전 내부 테스트에서 안전 기준을 충족하지 못한 것으로 나타났다고 보도했다.

사치 자인 오픈AI 안전 시스템 책임자는 WSJ에 “GPT-6.1 아스트라가 이전 모델과 비교해 두 가지 영역에서 성능이 퇴보해 안전하게 출시하기에는 신뢰성이 부족했다”고 말했다.

이 모델은 AI가 인간이 원하는 방식에 얼마나 잘 따르는지를 측정하는 ‘정렬’ 평가에서 기준을 충족하지 못한 것으로 나타났다. 특히 사용자에게 자신이 수행했거나 수행하지 않은 작업을 일관되고 정직하게 공개하지 않는 등 ‘기만적 성향’이 더 강해졌다.

또 다른 문제는 ‘범위 권한’에 관한 사안이다. 새 모델이 사용자의 승인을 구하지 않고 작업을 강행하거나 안전하지 않을 수 있는 상황에서도 외부 도구와 서비스를 사용하려 시도했다는 것이다.

자인 안전 시스템 책임자는 “안전과 정렬 문제에는 항상 상충 관계가 존재한다. 모델이 주어진 범위를 지키면서도 작업 도중 장애물이나 난관에 부딪혔다는 이유로 지나치게 소극적이거나 게으른 태도를 보이지 않도록 적절한 균형점을 찾아야 한다”고 말했다.

오픈AI는 대신에 향후 더 강력한 성능을 갖출 것으로 예상되는 차기 모델들의 안전성을 강화하는 데 주력할 방침이다.

WSJ은 내부 테스트 과정에서 연구진이 제기한 문제에 따라 신모델 출시를 철회한 것은 AI 에이전트의 오작동이 업계의 급격한 기술 발전을 저해할 수 있음을 보여주는 가장 명확한 사례라고 평가했다.

올여름 업계 전반에서 AI 시스템이 통제 범위를 벗어나 오작동했다는 보고가 잇따랐다. 최근 오픈AI와 앤트로픽은 경쟁 기업들에 최첨단 AI 모델 개발 속도를 늦추고 안전 표준에 투자할 것을 촉구하고 자신들의 내부 AI 개발 속도 또한 조절하겠다고 밝혔다.

박채연 기자 applaud@kyunghyang.com