구글 “AI 악용 사이버 공격 선제 차단”…북한 해커 AI무기화도 포착

北해킹조직, 프롬프트 수천 건 반복 전송해 취약점 탐지 ‘자동화’

미국 캘리포니아주 마운틴뷰의 구글 연구시설. 로이터=연합뉴스

해킹 세력들이 인공지능(AI)을 활용해 공격력을 한층 높이고 있는 가운데 구글이 공격을 준비하던 해커들의 시도를 선제 차단했다고 밝혔다. 구글은 또 북한 해킹 조직이 상대 서버의 취약점을 찾아내고 공격하는 데 AI를 적극 동원하고 있다고 밝혔다.

구글 위협인텔리전스그룹(GTIG)은 11일(현지시간) 보고서를 내고 “AI를 활용해 개발된 것으로 추정되는 제로데이 공격 행위자를 확인했다”며 “이 행위자는 대규모 공격에 AI를 활용할 계획이었으나 우리의 선제 대응으로 막을 수 있었던 것으로 보인다”고 설명했다.

제로데이 공격이란 이제껏 알려지지 않은 취약점을 발견해 보안 패치가 적용되기 전에 감행하는 보안 위협을 뜻한다.

최근 AI의 보안 취약점 탐지 능력이 강화하면서 이와 같은 제로데이 공격에 악용될 수 있다는 우려가 계속돼왔는데, 실제로 그와 같은 시도가 현실로 나타난 것이다.

공격을 시도한 것으로 확인된 해커들은 소프트웨어(SW) 취약점을 이용해 ‘2단계 인증’을 우회하려 한 것으로 조사됐다.

구글은 이번 공격에서 자사의 AI 모델인 제미나이가 사용되지는 않은 것으로 보고 있다.

보고서는 이번 제로데이 공격을 시도한 행위자들이 구체적으로 누구인지는 밝히지 않았다.

이와는 별도로 구글은 “국가의 지원을 받는 해킹 집단이 AI를 활용하고 있다”면서 “중국·북한과 연계된 집단이 이에 특별한 관심을 보이고 있음을 확인했다”고 밝혔다.

구글은 이들 집단이 AI를 활용한 취약점 발견과 악용을 위해 정교한 접근 방식을 취하고 있으며, 고품질 특화 보안 데이터셋을 통합하는 작업을 하고 있다고 분석했다.

특히 북한 해킹그룹 APT45가 프롬프트를 수천 건 반복 전송해 다양한 취약점을 분석하고, 공격 코드를 검증하는 자동화 연구를 진행하고 있다는 징후가 발견됐다고 구글은 덧붙였다.

다만 구글은 “공격자들은 실험과 혁신을 주저하지 않지만 우리도 마찬가지”라며 “구글은 보안과 AI 커뮤니티 전반에 연구 결과와 대응 방안을 공유하고 끝없이 변화하는 위협에 한발 앞서 대응하기 위해 선제적인 조처를 하고 있다”고 강조했다.

최근 앤스로픽이 전문가 수준의 보안 취약점 탐지 능력을 갖춘 AI 모델 미토스를 제한적으로 공개하면서 AI발 사이버 안보 우려가 커지고 있다. 앤스로픽은 보안 위협을 미토스를 일부 파트너 기업·기관에만 프리뷰용으로 제공했는데 취약점 탐지와 공격 코드 작성 능력이 대단히 뛰어나다는 소문이 퍼지면서 전 세계가 긴장하고 있다.

일부 전문가들은 기존 AI 모델을 조합해 사용하는 것만으로도 이에 미토스에 버금가는 수준의 보안 위협이 된다고 지적하기도 한.

오픈AI도 최근 소수 인력에만 공유되는 사이버 보안 특화 AI 모델 ‘GPT-5.5-사이버’를 선보인 바 있다.

김영욱 기자 wook95@dt.co.kr