“악당 손에 들어갈 줄 알았지”…알아도 못잡는 해킹 신무기 된 ‘이것’

중국 해커, 앤스로픽 AI 사용
주요 기업·정부 30여곳 해킹
러는 구글 AI로 우크라 공격

앤스로픽 로고 [로이터 = 연합뉴스]

중국 정부가 배후인 해커들이 지난 9월 해외 기업과 정부 기관을 침입하는 데 미국 기업 앤스로픽의 인공지능(AI) 서비스 ‘클로드’를 사용한 것으로 밝혀졌다. 러시아가 구글 AI를 사용해 우크라이나를 공격한 데 이어 AI를 도구로 한 ‘사이버 냉전’이 치열해지고 있는 것이다.

13일(현지시간) 월스트리트저널(WSJ)에 따르면 제이컵 클라인 앤스로픽 보안 책임자는 “중국 해커들은 수년간 피싱 이메일 작성이나 취약 시스템 탐색 같은 개별 작업에 AI를 활용해 왔으나, 최근 수십 개의 표적을 노린 공격에선 인간의 개입이 극히 일부에 불과할 정도로 80~90% 자동화가 이뤄졌다”고 설명했다.

해커들은 버튼 클릭 한 번으로 공격을 수행했고, ‘예, 계속하세요’ ‘계속하지 마세요’ 같은 최소한의 인간 개입만 필요로 했다. 앤스로픽은 공격을 차단하고 해커 계정을 봉쇄했으나 그전에 최대 4건의 침입에 성공했다. 한 사례에서는 해커들이 앤스로픽의 클로드 AI 도구를 지시해 내부 데이터베이스를 조회하고 데이터를 추출하는 데도 성공했다.

지난 2020년 중국 해킹 그룹 레드 해커 연합 소속 해커가 중국 광둥성 둥관에서 글로벌 사이버 어택 상황을 담은 모니터 현황을 보고 있다. [AFP = 연합뉴스]

지난여름 사이버 보안 기업 볼렉시티는 중국 지원 해커들이 기업, 연구 기관, 비정부 기관을 대상으로 한 해킹 작전의 일부를 자동화하기 위해 AI 도구를 사용하는 것을 포착했다. 스티븐 어데어 볼렉시티 사장은 해커들이 대규모언어모델(LLM)을 활용해 표적 선정, 피싱 이메일 작성 방법, 악성코드 작성 방식을 결정했다고 설명했다. 어데어 사장은 “AI가 해커들에게 더 많은 일을 더 빠르게 수행할 수 있는 능력을 부여하고 있다”고 말했다.

지난주 구글도 러시아 정부와 연계된 해커들이 실시간으로 맞춤형 악성코드 지침을 생성하는 제미나이 AI를 활용해 우크라이나를 공격했다고 발표했다.

주워싱턴 중국대사관 대변인은 “사이버 공격 추적이 복잡하다”면서 “미국이 사이버 보안을 이용해 중국을 비방하고 중상모략한다”고 비난했다. 그는 “중국은 모든 형태의 사이버 공격을 단호히 반대하고 단속한다”고 말했다.

앤스로픽은 해커들이 침투를 시도한 기업과 정부 기관의 명단을 공개하지 않았으나 약 30개의 표적을 탐지했다고 밝혔다. 일부 해킹은 극비 정보를 탈취하는 데 성공했다.

그동안 해커들은 오픈소스 코드를 해킹에 활용하는 경우가 많다. 오픈소스 코드는 무료로 쓸 수 있고 AI 서비스의 악의적 활동 제한을 무력화하도록 수정이 가능하기 때문이다. 그러나 클로드를 공격에 사용하기 위해 중국 해커들은 ‘탈옥’이라 불리는 방법으로 앤스로픽의 안전장치를 우회했다. 심지어 해커들은 클로드에 표적 기관을 대신해 보안 검사를 수행 중이라고 속였다.

다만 앤스로픽은 자동화된 해킹은 완전한 자율성을 갖추지 못해 ‘환각’으로 인한 오류가 발생하고 있다고 설명했다. 클라인 책임자는 일부 해킹 시도 사례를 언급하며 “실제로는 접근하지 못했음에도 능력을 과장해 ‘내부 시스템에 접근할 수 있었다’고 보고할 수 있다”고 설명했다.