[여적]AI의 자발적 해킹

서울 강남구 코엑스에서 23일 열린 코드게이트 2026 국제 해킹방어대회에 참가한 화이트해커들이 실력을 겨루고 있다. 연합뉴스

<터미네이터>와 같은 공상과학 영화에나 나올 법한 일이 현실에서 벌어졌다. 외부 인터넷과 격리된 채 성능을 평가받던 인공지능(AI)이 실험 환경을 뛰쳐나와 외부 전산망에 침투한 것이다. AI는 인간이 낸 문제의 답을 찾기 위해 스스로 기업 내외부 보안시스템을 다 뚫어버렸다. AI의 자율 해킹 능력이 확인된 첫 사례로, 인간 통제를 벗어난 AI가 미래가 아니라 당면한 현실의 문제가 되었음을 보여준다.

미국 AI 기업 오픈AI는 지난 21일(현지시간) “지난주 새 AI 모델들에 대한 내부 보안 평가를 진행하던 중 일부 모델이 오픈소스 AI 플랫폼 허깅페이스의 전산망에 침투한 사실을 발견했다”고 밝혔다. 오픈AI는 자사가 공개한 최고사양 모델 GPT-5.6 솔 모델과 성능이 더 뛰어난 비공개 모델을 평가하는 과정에서 이런 일이 벌어졌다고 했다. 외부 인터넷과 격리된 환경에서 이 모델들이 보안 취약점을 찾아 공격하는 방법을 만들 수 있는지 실험하고 있었는데, 이 모델들이 미공개 보안 취약점을 공략해 인터넷에 접속하더니 허깅페이스 전산망까지 뚫고 들어가 해답을 빼내더라는 것이다.

오픈AI는 “최첨단 AI 모델이 새로운 공격 경로를 찾아내 악용할 수 있음이 명백해졌다”며 “강력한 방어 도구가 함께 개발되지 않는다면 고도화된 사이버 역량은 거대한 위협이 될 것”이라고 했다. 허깅페이스는 “이번 침입은 처음부터 끝까지 자율 AI 에이전트 시스템이 주도했다는 점에서 이전 사고와 달랐다”고 했다. AI의 해킹 능력을 사이버 보안시스템이 따라잡지 못하는 형국이다.

AI 활용 범위는 산업·군사 영역을 비롯해 모든 분야로 확산하고 있다. AI가 각국의 전략산업이 되면서 성능 고도화 경쟁은 날로 격화하고 있다. 반면 AI 통제장치는 매우 부족하다. 국제적·국가적 가이드라인도 없이 개별 기업의 선의에만 맡겨둔 상태라고 해도 과언이 아니다. 이번처럼 고삐 풀린 AI가 금융시스템이나 발전소 등을 해킹하는 일이 벌어진다면 사회적 혼란은 상상을 초월할 것이다. 이번 일은 인간의 통제를 벗어난 AI의 위험성과 AI 통제수단 마련 필요성을 일깨우는 계기가 되어야 한다. ‘인간이 통제하는’ AI가 되어야지 ‘인간을 통제하는’ AI가 되어서야 되겠는가.

정제혁 논설위원 jhjung@kyunghyang.com