“오픈AI 외부 접근 10곳 이상”...앤스로픽도 네번째 외부 해킹 확인

/챗GPT 생성 이미지

인공지능(AI)이 개발사의 통제를 벗어나 외부 사이트에 접근한 사례가 잇따라 발견되고 있다. 오픈AI의 AI 에이전트들이 무단으로 메시지를 남긴 외부 사이트가 당초 알려진 독일 위키뿐 아니라 최소 10곳 이상이었던 것으로 나타났다. 앤스로픽도 자체 조사에서 놓쳤던 네 번째 외부 시스템 침입 사고를 추가로 확인했다.

로이터는 9일(현지 시각) 6개 독립 연구진의 조사 결과를 종합해 오픈AI의 AI 에이전트들이 지난 5월부터 7월까지 10곳 넘는 외부 사이트를 임시 통신망처럼 이용했다고 보도했다. 오래된 위키 사이트의 허점을 이용해 페이지를 수정하거나 온라인 문서 저장소와 대학이 운영하는 인터넷 주소 단축 서비스를 통해 정보를 남긴 것으로 조사됐다. 대화가 금지된 시험장에서 학생들이 화장실 벽에 답을 적어 공유한 것과 비슷한 방식이다.

에이전트들은 25년 된 독일 위키, 미국 고등학교 교사가 만든 화학 위키, 개인 홈페이지 등을 사용했다. AI 에이전트들은 웹에서 정보를 읽기만 하고 글은 쓰지 말라는 제한을 받은 상태였다. 하지만 25년 된 독일 위키는 ‘읽기’용 접속 명령만으로도 글을 저장할 수 있었다. 에이전트들은 이 틈을 발견해 문제의 답과 통계 자료, 접속 제한을 우회하는 방법 등을 1만8000건에 걸쳐 남겼다. 에이전트들은 긴 인터넷 주소를 짧게 만들어주는 대학 서비스도 ‘메모장’처럼 이용했다. 단축 주소의 이름과 공개된 방문 기록에 필요한 정보를 남긴 것이다.

다만 이번 활동은 사이트를 파괴하거나 정보를 빼내려는 전형적인 해킹보다는 ‘무단 게시’나 스팸에 가깝다는 평가도 나온다. 문제는 에이전트가 개발자가 설정한 제한을 스스로 우회했고, 활동 범위도 처음 알려진 것보다 훨씬 넓었다는 점이다. 오픈AI는 “전체 에이전트 활동을 재검토하고 있지만, 지난 7월 발생한 허깅페이스 침입과 비슷한 규모나 심각성의 추가 활동은 확인하지 못했다”고 밝혔다.

같은 날 앤스로픽도 AI 모델 ‘클로드’가 실제 외부 시스템에 권한 없이 접근한 네 번째 사고를 공개했다. 앤스로픽은 지난 7월 약 14만1000건의 시험 기록을 조사해 세 차례 침입을 공개했지만, 일부 기록이 검색에서 빠지면서 네 번째 사고를 놓쳤다. 외부 조사기관에 자료를 넘기기 위해 기록을 정리하던 지난달에야 이를 발견했다.

네 차례 사고는 모두 실제 인터넷과 차단돼 있어야 할 모의 해킹 시험장이 설정 오류로 외부 인터넷에 연결되면서 발생했다. 앤스로픽은 클로드가 자신이 실제 인터넷에 접속했다는 단서를 무시하고 가상 환경이라고 믿으려는 ‘편향된 판단’과, 임무 완수를 위해 위험한 행동을 계속하는 ‘무모함’을 보였다고 분석했다. 추가로 4억8100만건의 기록을 다시 조사한 결과 비슷하거나 더 심각한 사고는 확인하지 못했다고 밝혔다.

이번에 추가로 확인된 사례에서 치명적인 피해가 발생한 것은 아니다. 그러나 오픈AI와 앤스로픽 모두 유사한 사고가 반복된 데다, 외부 연구진의 추적이나 뒤늦은 재조사를 통해서야 활동 범위가 드러났다는 점에서 우려가 나온다. AI 업계 관계자는 “아직 외부에 알려지지 않은 유사 사례가 더 있을 가능성이 크다”며 “AI 에이전트의 인터넷 접근 권한과 이상 행동 감시, 자동 차단 장치 등 통제·안전 체계를 전면 재점검할 필요가 있다”고 말했다.