메타 AI도 외부 기관 해킹…오픈AI·앤스로픽 이어 세번째

메타 로고. /로이터 연합뉴스

최근 메타의 인공지능(AI) 모델이 사이버 보안 시험 중 외부 기관을 해킹했다고 미 IT 전문 매체 디인포메이션이 5일(현지 시각) 보도했다. 오픈AI, 앤스로픽에 이어 세 번째 ‘자율 해킹’ 사고다.

이 매체에 따르면 메타의 AI 모델 ‘뮤즈 스파크’가 최근 독립 검증 업체 ‘이레귤러’의 보안 시험에서 인터넷에 접속해 한 기업의 시스템에 침입하고 내부 시스템을 변경했다.

보통 인터넷과 차단된 ‘샌드박스’에서 AI 시험이 진행되지만, 이번엔 이레귤러의 설정 오류로 인터넷 접속 통로가 열리면서 취약점을 악용해 외부 기관에 무단 접속한 것으로 알려졌다.

해킹 피해를 본 기관은 한 곳이지만, 구체적으로 어느 기관인지는 공개되지 않았다. 이레귤러는 “고도의 해킹 기술이 사용된 것은 아니며, 현재 모든 문제가 해결됐다”고 밝혔다.

앞서 오픈AI의 최신 AI 모델이 시험 환경을 벗어나 AI 모델 공유 플랫폼 허깅페이스를 해킹했고, 앤스로픽 모델들도 인터넷 차단 설정 오류를 틈타 3개 기관의 시스템에 접근했다.

영국 AI안보연구소(AISI)의 시험에서는 오픈AI와 앤스로픽 모델이 가짜 온라인 신원을 만들고 사람을 속여 악성 코드를 승인받으려 하는 등 총 19건의 무단 행동이 확인됐다.

한 달 사이 첨단 AI 모델들이 잇따라 해킹 사고를 일으키면서 AI 규제 목소리도 커지고 있다. 미국 정부는 첨단 AI 모델을 출시하기 전 모델을 사전 검증하는 규제를 마련하고 있다. 미 의회에서도 AI가 통제를 잃으면 정부가 개입하는 ‘AI 킬스위치법’이 발의됐다.