"오픈AI, 'AI 멋대로 해킹' 1주일 동안 몰랐다"

(서울=연합뉴스) 설원태 기자 = 자사의 인공지능(AI) 모델들이 통제를 벗어나 외부 사이트를 며칠 동안 해킹했지만 오픈AI가 이를 알아차리지 못했다고 로이터 통신이 복수의 소식통을 인용해 26일(현지시간) 보도했다.

조사에 정통한 소식통들은 오픈AI는 위협이 차단되고 미국 연방수사국(FBI)에 신고된 후에야 이를 알아차렸다고 말했다.

지난 21일 오픈AI는 최신 모델 'GPT-솔 5.6' 등이 사이버 공격 능력을 시험하던 중 격리된 샌드박스 환경을 벗어나 인터넷에 접속, 오픈소스 AI 플랫폼 허깅페이스의 로그인 정보를 탈취해 서버를 해킹하는 사고를 일으켰다고 공개했다.

하지만 두 소식통에 따르면 이들 모델은 지난 9일께 격리된 테스트 환경에서 탈출을 시도했다.

허깅페이스에 대한 해킹은 이틀 뒤인 11일 시작돼 13일까지 이어졌다고 허깅페이스 공동 창업자 토마스 울프는 밝혔다.

오픈AI가 해킹의 범인이 자사 모델들이라는 것을 알아차리는 데는 며칠이 더 걸렸다. 오픈AI와 허깅페이스가 이 사건을 두고 처음 연락한 것은 사건이 터진 지 한참 뒤인 20일께였다고 소식통들은 전했다.

허깅페이스는 이번 해킹 사건의 타임라인을 정리해서 공개할 준비를 하고 있다고 울프는 말했다.

오픈AI는 당시 성명에서 "이번 해킹은 전례가 없는 일이다. AI 안전 분야에서 정말 중요한 이정표가 될 사건"이라고 밝혔다.

이번 사태는 오픈AI가 최첨단 모델 'GPT-5.6 Sol'과 아직 공개되지 않은 "훨씬 더 강력한" 모델을 기반으로 작동하는 AI 에이전트의 사이버 보안 능력을 테스트하던 중 시작됐다.

몇몇 사이버 보안 전문가들은 오픈AI가 AI 에이전트에 대한 통제력을 잃은 것에 대해 회사의 안전 관리 절차에 심각한 의문이 제기된다고 입을 모았다.

세계윤리데이터재단의 수석 정보 전문가 말리 스미스는 "AI가 무엇을 하는지 전혀 몰랐다는 뜻인가, 아니면 알면서도 어떻게 막아야 할지 몰랐던 뜻인가"라며 지적했다.

AI 에이전트 옹호론자들은 쉬지 않고 24시간 일하며 생산성을 엄청나게 끌어올려 줄 '가상 직원 군단'을 만들 수 있다고 기대에 차 있다.

하지만 AI의 자율성이 커질수록 예상치 못한 돌발 행동을 할 위험도 커진다. 특히 고성능 모델들은 주어진 임무를 완수하거나 테스트를 통과하기 위해 '지름길(편법)'을 택하도록 설계돼 있기 때문이다.

AI 에이전트의 능력과 행동 동기를 연구하는 팰리세이드 리서치의 제프리 레이디시는 "AI 모델들은 거짓말을 하고, 속이고, 해킹한다"고 단언했다.

그는 선두 AI 기업들이 더 뛰어나고 더 빠른 모델을 내놓으려고 치열하게 경쟁하는 와중에 과연 까다롭고 비용이 많이 드는 보안 조치에 기꺼이 돈을 쓸 의지가 있는지 물어야 한다고 지적했다

seolwontai@yna.co.kr

▶제보는 카톡 okjebo

국제