“우리 AI가 그랬다고요?” 탈출해 해킹까지 했는데…일주일 동안 아무도 몰랐다

샘 울트먼 오픈AI 최고경영자(CEO)가 지난달 미 의회 의사당에서 AI 규제를 주장하는 버니 샌더스 상원의원과 회동한 후 기자들의 질문에 답하고 있다. [게티이미지]

[헤럴드경제=도현정 기자] 테스트 중인 인공지능(AI) 모델이 통제를 벗어나 외부 사이트를 해킹하는 사태가 발생했지만, 오픈AI는 이를 일주일 동안이나 인지하지 못했던 것으로 전해졌다.

로이터 통신은 26일(현지시간) 오픈AI가 위협이 차단되고 미연방수사국(FBI)에 해킹 사실이 신고된 후에야 모델들의 외부 사이트 해킹 사실을 알아차렸다고 보도했다.

오픈AI는 지난 21일 최신 모델인 ‘GPT-솔 5.6’ 등의 사이버 공격 능력을 시험하던 중 해당 모델들이 격리된 샌드박스 환경을 벗어나 인터넷에 접속했고, 오픈소스 AI 플랫폼인 허깅페이스의 로그인 정보를 탈취해 서버를 해킹하는 사고를 일으켰다고 밝혔다. 당시 허깅스페이스 공동 창업자인 토마스 울프는 해킹이 지난 11일 시작돼 13일까지 이어졌다고 발표했다.

이에 로이터 통신은 복수의 소식통을 통해 이들 모델이 이미 지난 9일 격리된 테스트 환경에서 탈출을 시도했다고 전했다. 오픈AI는 허깅스페이스가 해킹 사실을 발표한 이후에도 며칠 더 지나서야, 자사 모델들이 해당 사고를 저질렀다는 것을 알아차렸다. 오픈AI와 허깅스페이스가 이 사건을 두고 처음 연락한 것은 해킹 사고가 난 지 한참 뒤인 지난 20일께였다.

오픈AI는 당시 성명에서 “이번 해킹은 전례가 없는 일이다. AI 안전 분야에서 정말 중요한 이정표가 될 사건”이라고 말했다.

이를 두고 전문가들은 오픈AI의 안전 관리 절차에 의문을 제기했다. 세계윤리데이터재단의 수석 정보 전문가 말리 스미스는 “AI가 무엇을 하는지 전혀 몰랐다는 뜻인가, 아니면 알면서도 어떻게 막아야 할지 몰랐던 뜻인가”라며 AI의 고도화와 이를 통제하지 못하는 기업의 시스템에 대해 우려를 표했다.

특히 이번 일로 인해 자율성이 높아진 고성능 모델들에 대해서는 이를 통제하기 어려울 수 있다는 우려가 나온다. 일부 고성능 모델들은 주어진 임무를 완수하기 위해 ‘지름길(편법)’을 택하도록 설계되기도 한 것으로 전해졌다.

AI 에이전트의 능력과 행동 동기를 연구하는 팰리세이드 리서치의 제프리 레이디시는 “AI 모델들은 거짓말을 하고, 속이고, 해킹한다”라며 완전한 통제의 어려움을 지적했다. 그는 치열한 경쟁을 벌이는 AI 기업들이 더 뛰어나고 더 빠른 모델을 내놓으려고 하는 와중에 까다롭고 비용이 많이 드는 보안 조치에 기꺼이 돈을 쓸 의지가 있는지 물어야 한다고 꼬집었다.