오픈AI 에이전트 ‘호주 정부 사이트 해킹’ 일파만파

자료조사 막히자 우회 침입…“AI의 첫 정부 해킹”
84일만에 공용메일로 늑장 통보…호주, TF 가동
美 대학 등 해킹 시도…韓 원유 수입 자료도 뒤져

챗GPT로 그린 일러스트.

미국 오픈AI의 인공지능(AI) 에이전트가 지난 6월 호주 정부의 보건통계 포털에 무단 침입한 사실을 두고 파장이 커지고 있다. 해킹 능력을 시험하는 보안 평가가 아니라 평범한 자료조사 과제를 수행하던 중 벌어진 일이어서 이미 불붙은 속도조절론 등 AI 통제·안전 논의에 기름붓는 모양새다.

앤서니 앨버니지 호주 총리는 24일(현지시간) 유엔총회가 열린 미국 뉴욕에서 오픈AI 에이전트의 자국 ‘메디케어’ 해킹을 두고 “용납할 수 없는 일이며, 호주가 AI 기준 마련에 앞장서온 이유”라고 밝혔다. 메디케어는 호주의 전 국민 공공 의료보험으로, 이 포털은 정부기관 ‘서비시스 오스트레일리아’가 운영한다.

전날 앨버니지 호주 총리는 기자회견을 열고 “오픈AI 에이전트가 6월 18일 메디케어 통계 보고 서비스 포털에 무단 접근했다”고 발표했다. AI가 스스로 정부 시스템을 해킹한 것으로 공개된 첫 사례로 꼽힌다.

공공 의약품 지출을 조사하던 오픈AI의 에이전트가 접근이 거듭 차단되자 우회로를 찾아 공개·비공개 파일에 모두 접근했고, 이에 대한 거부를 받아들이지 않았다. 열람에 그치지 않고 내부 서버에 파일을 쓰기까지 했으며, 이와 관련해선 호주 정부 측이 추가 조사 중이다.

오픈AI는 성명에서 “모델이 우리가 의도하지 않은 행동을 했다”며 “접근한 정보는 집계된 보건 통계와 내부 파일명이며 환자 기록에 접근한 증거는 없다”고 설명했다. 호주 정부도 개인 의료정보 유출이나 서비시스 오스트레일리아 네트워크 전반의 침해 정황은 없다고 보고 있다.

늑장 통보도 도마에 올랐다. 호주 ABC방송에 따르면 오픈AI는 지난달 11일 자체 점검에서 침입 사실을 파악하고도 한 달이 이달 10일에야 연구자들이 취약점 제보용으로 쓰는 서비시스 오스트레일리아의 공용 메일함으로 이를 알렸다. 사건 발생 84일 만이다.

그새 이달 1일 샘 올트먼 오픈AI 최고경영자(CEO)가 리처드 말스 호주 부총리 겸 국방장관을 만났지만 이 사안은 꺼내지 않았다. 앨버니지 총리는 올트먼 CEO와 통화해 “극도의 우려”를 전하고 “명백히 용납할 수 없는 상황”이라고 했다.

오픈AI 에이전트의 일탈은 이번만이 아니었다. 비영리 AI 연구소 트랜슬루스는 최신 보고서를 통해 AI에이전트들이 5~6월 미 뉴멕시코대 디지털 도서관, 미 공공 데이터 사이트 ‘데이터 USA’, 호주 보건복지연구원(AIHW)에 해킹을 시도한 흔적을 공개했다. 뉴멕시코대에서 과거 결핵 치료 시설 사진을 구하지 못하자 취약점을 탐색한 뒤 서버에 요청 80건을 한꺼번에 쏟아붓기도 했다.

뉴욕타임스(NYT)는 오픈AI가 이들 사례를 확인했다고 보도했다. 트랜슬루스가 에이전트로 추정되는 트래픽을 이달 16일까지 확인했다며, 오픈AI가 허깅페이스 사건 조사에 착수한 뒤에도 이런 행동이 이어졌다고 지적했다. 트랜슬루스 보고서에 따르면 16일에도 국제에너지기구(IEA)의 한국 원유·천연가스·석탄 수입 자료가 에이전트로 추정되는 주체에 의해 7차례 조회됐다.

지난 7월 허깅페이스 사건은 사이버보안 평가 중이던 오픈AI 모델들이 테스트용 격리 환경을 우회해 인터넷에 접속한 뒤 AI플랫폼 기업 허깅페이스 인프라 일부를 침해한 것이다. 이번에는 해킹과 무관한 과제에서 AI가 스스로 보안 우회를 택했다는 점이 다르다. 트랜슬루스의 콘래드 스토즈 거버넌스 책임자는 NYT에 “범용 과제를 훈련받은 에이전트 무리가 해킹도 불사한다면 해당 정보를 가진 누구든 위험해질 수 있다”고 말했다.

호주 정부는 내각 주도로 국가사이버보안조정관, AI국, 호주신호국(ASD), 호주 AI안전연구소, 서비시스 오스트레일리아 등이 참여하는 태스크포스(TF)를 꾸렸다. 로이터통신은 앨버니지 총리가 정부 시스템이 침입을 탐지하지 못한 이유도 조사하겠다고 했다고 전했다. 앨버니지 총리는 “당연히 법적 결과가 뒤따를 것”이라고 언급했다.

다만, ABC는 정부 소식통을 인용해 현행법 위반 가능성은 낮다는 게 초기 판단이라고 보도했다. 니컬러스 데이비스 시드니공대 교수는 ABC에 “현행법은 고의를 요건으로 한다”고 지적했다.

공교롭게도 샘 올트먼 오픈AI CEO는 호주의 발표 직전 유엔 안전보장이사회에서 AI 사고에 대한 “신속하고 정확한” 보고가 필요하다고 거론했다. 반면, 도널드 트럼프 미국 대통령은 지난 22일 유엔총회 연설에서 AI를 통제하려는 ‘글로벌리스트식 구상’을 거부한다는 입장을 냈다. 유엔 주재 호주 사이버수석협상대표를 지낸 조해나 위버는 영국 가디언에 “지금 보이는 건 빙산의 일각”이라고 짚었다.

팽동현 기자 dhp@dt.co.kr