AI 해킹 또 발생했는데…구글 "공개할 사안 아냐"

제미나이, 모의 시험 도중 실제 기업 3곳 해킹…스스로 중단

구글의 인공지능 모델인 제미나이가 주어진 실험 환경을 벗어나 외부 기업 3곳을 해킹한 사실이 뒤늦게 드러났습니다.

미국 월스트리트저널(WSJ)은 현지시간으로 어제(18일) 구글 제미나이 모델이 지난 5월 보안 평가 업체 '이레귤러'가 진행한 사이버 보안 시험 도중 외부 기업 3곳의 시스템에 무단 접근했다고 보도했습니다.

이는 제미나이가 외부 기업 시스템에 임의로 침투한 사실이 확인된 첫 사례로, 구글은 WSJ이 관련 문의를 하기 전까지 이 사실을 공지하지 않았습니다.

이레귤러는 원래 인터넷을 차단하고 진행해야 하는 모의 해킹(CTF) 시험이지만, 시험 당시 실수로 인터넷 접속이 가능한 환경이 조성됐습니다.

제미나이는 가상의 기업 시스템에서 비밀 정보를 가져오라는 지시를 받고 인터넷에 접속한 뒤 우연히 같은 이름의 기업 시스템을 발견해 해킹을 시도했습니다.

구글은 제미나이가 해당 기업이 가상의 목표물이 아니라 현실 속 실제 기업이라는 사실을 인지한 직후 스스로 해킹을 즉시 중단했다고 설명했습니다.

취재 전까지 이 해킹 사건을 공개하지 않았던 구글은 미리 설계해 둔 안전장치가 모델의 공격을 중단하도록 작동했기 때문에 목표에서 벗어나는 "정렬 실패" 사례가 아니라고 WSJ에 설명했습니다.

구글은 이 사안을 연방 당국에 통보했으며 이레귤러는 관련 연구실과 기관에 연락했다고 밝혔습니다.

그러나 보안 스타트업 코리도어의 잭 케이블 최고경영자(CEO)는 "모델들이 원래 해야 할 일의 범위를 벗어나 실제 사이버 공격을 수행하고 있다는 것이 근본적인 문제"라며 "이는 대중이 알아야 할 공익적 사안"이라고 지적했습니다.

앞서 지난 7월 오픈AI의 GPT가 격리 환경인 '샌드박스'를 임의로 벗어나 외부 기관인 허깅페이스를 해킹한 사건 이후 이와 유사한 '불량 에이전트' 사건이 연이어 나타나고 있습니다.

앤트로픽의 클로드 모델도 평가 도중 실수로 막히지 않은 인터넷망에 접근해 외부 기업 시스템에 침투했고, 메타의 '뮤즈 스파크' 모델과 중국 문샷AI의 '키미 K3' 등도 마찬가지로 해킹을 저질렀습니다.

최근 AI 업계에서는 이와 같은 AI 안전 관련 우려가 커지면서 AI 개발의 속도를 조절하자는 주장이 대두되고 있습니다.

[신동길 디지털뉴스부 인턴기자 dgshin2271@gmail.com]

MBN