한 달 새 잇단 AI 보안사고…'통제 불능' 우려 커진다

9월 오픈AI 정보 유출 수차례
인터넷 접근 통제장치도 돌파
인간 해킹 도구서 공격 주체로
접근 권한 통제 체계 마련해야

9월 한 달간 수일 간격으로 인공지능(AI) 보안 사고가 터지는 등 짧아진 사고 발생 간격에 AI 개발사들의 안전 관리 역량이 시험대에 올랐다.

28일 업계에 따르면 오픈AI는 지난 8월 AI 에이전트의 인터넷 접근 제한과 감시체계 강화 방침을 밝힌 지 한달여 만에 짧은 간격으로 터지는 보안 사고에 직면했다. 지난 5일 AI 에이전트(비서)들이 공개 위키를 비인가 정보 교환 공간으로 사용한 사실이 알려진 데 이어 오픈AI는 16일 유출된 인증정보 사용, 파일의 외부 업로드, 에이전트 간 비인가 통신 등 6건을 발표했다. 25일에는 연구자의 인증 토큰 노출과 인터넷 차단 우회 사례를 추가로 공개했다. 이후에는 AI 에이전트가 사용자 이미지 53건을 외부 사이트에 게시한 사실이 알렸고, 호주 정부의 통계 포털에 무단 접근한 사실을 통보했다.

특히 전문가들 사이에서는 지난 7월 허깅페이스 해킹 사건 이후 오픈AI가 보안을 강화했는데도 사고가 잇따랐다는 점에서 통제체계의 실효성에 의문을 제기하고 있다. 오픈AI는 지난달 AI가 작동하는 격리 환경을 강화하고, 무단 접근·데이터 유출 등 이상행동을 탐지하는 감시체계를 확대했다. 하지만 강화된 통제 환경에서도 AI가 인터넷 접근 제한을 우회한 사례가 나타나며 기존 안전장치만으로 AI의 예기치 않은 행동을 통제하기 어렵다는 문제가 드러났다.

다른 AI 개발사에서도 AI 통제 실패가 반복되는 추세다. 앤스로픽에서는 1월 초기 클로드 오퍼스 4.6이 외부 시스템에 무단 접근했고, 4월부터 다른 클로드 모델들의 외부 기관 침해가 잇달아 발생했다. 5월에는 구글 제미나이가 보안 평가 중 실제 기업 3곳에 침입했다.

사고가 잦아지는 동시에 양상도 달라지고 있다. 과거에는 사람이 AI를 사이버공격 도구로 악용하는 문제가 중심이었다. 오픈AI는 2024년 국가 연계 해킹 조직들이 자사 서비스를 정보 수집과 코딩 등에 악용한 사례를 발표했다. 앤스로픽도 지난해 공격자가 클로드 코드를 이용해 최소 17개 기관을 겨냥한 데이터 탈취·협박을 수행했다고 밝혔다. 반면 최근에는 AI가 부여받은 권한과 도구를 이용해 통제 범위를 벗어나거나 외부 시스템에 접근하는 등 AI 자체 행동을 어떻게 통제할지가 새로운 보안 문제로 떠오르고 있다.

AI 자체를 보호하고 위험행동을 통제하는 '시큐리티 포 AI'의 중요성이 커지고 있다는 목소리가 나온다. 에이전트의 접근 권한과 데이터 범위를 제한하고, 이상행동을 탐지하면 실행을 즉시 중단하는 체계가 필요하다는 것이다. 김은성 한국인터넷진흥원 위협대응정책팀장은 "AI가 자율성을 갖고 행동하는 과정에서 예상하지 못한 접근이나 정보 유출이 발생할 수 있는 만큼, AI를 보안에 활용하는 'AI 포 시큐리티'뿐 아니라 AI 행동을 통제하고 안전성을 확보하는 '시큐리티 포 AI'도 함께 강화해야 한다"고 말했다.

이은서 기자 libro@asiae.co.kr