앤트로픽 AI 이용권이 단돈 몇 달러에… 다크웹서 ‘LLM 재킹’ 급증

클라우드 연산 자원 무단 탈취 기승
국가 스파이전·사이버전 악용 우려

전 세계적으로 인공지능(AI) 활용이 급증하면서 고가 AI 모델과 클라우드 연산 자원을 무단으로 탈취하는 이른바 ‘대형언어모델(LLM) 재킹’ 범죄가 기승을 부리고 있다. 해커의 손에 넘어간 AI 기술과 연산력은 단순 사이버 범죄를 넘어 국가 간 스파이 활동이나 사이버전 등에도 악용되는 것으로 나타났다.

존 헐트퀴스트(사진) 구글 위협인텔리전스그룹(GTIG) 수석 분석가는 27일(현지시간) 파이낸셜타임스(FT)와의 인터뷰에서 LLM 재킹의 심각성을 지적했다. 올해 들어 다크웹 등에서 AI 계정에 로그인할 수 있는 자격이 불법 거래되거나, 타인의 연산 자원을 무단으로 점유하는 사례가 폭발적으로 늘어났다는 것이다.

실제 GTIG의 조사 결과에 따르면 현재 다크웹에서는 앤트로픽과 구글, 오픈AI 등 주요 AI 기업의 최신 모델 이용권이 정상가 대비 최대 97% 할인된 가격에 팔리고 있다. ‘클로드 맥스’나 ‘챗GPT 프로’처럼 구독료가 월 200달러에 달하는 고가의 AI 모델도 단돈 몇 달러면 구매가 가능한 셈이다. AI 기업들은 이러한 악용 징후를 실시간으로 감시하며 문제 발생 시 즉각 계정을 차단하고 있지만, 판매자들은 초기 계정이 막히더라도 추가 비용 없이 새로운 로그인 계정을 제공하겠다는 이른바 ‘접속 보장’ 조건까지 내걸며 감시망을 교묘히 빠져나가고 있다.

더 큰 문제는 금전적 이득을 노린 일반 해커뿐만 아니라 국가를 배후에 둔 해킹 세력까지 기업의 클라우드 인프라를 노리고 있다는 점이다. 이들은 표적 기업의 클라우드 서버에 침투한 뒤 연산 자원을 훔쳐 자신들의 AI 모델을 몰래 구동하는 수법을 활용했다. 이는 2018년 기승을 부렸던 ‘크립토재킹’ 수법과 유사한 것으로, AI 구동에 필요한 고가의 그래픽처리장치(GPU)와 막대한 전력 비용을 피해 기업에 고스란히 전가하는 방식이다. 헐트퀴스트는 과거 미국을 주요 표적으로 삼았던 중국의 사이버 스파이 단체 역시 이같은 범행에 연루된 사례를 확인했다고 말했다.

AI 자원을 탈취하는 신종 해킹 수법이 향후 사이버전의 양상을 비대칭적으로 바꿀 것이라는 우려도 커지고 있다. 공격자가 방어자보다 훨씬 적은 비용으로 고성능 AI와 연산력을 확보할 경우 비용 효율성 측면에서 압도적인 우위를 점하게 되기 때문이다. 헐트퀴스트는 “AI를 일시적 유행이라고만 여기는 이들은 그 어느 때보다 많은 사이버 공격을 겪게 될 것”이라며 “우리는 지금 당장 대비 태세를 갖춰야 한다”고 강조했다.

기업들이 자체 AI 인프라 확충에 열을 올리는 지금이 오히려 보안의 ‘사각지대’가 될 수 있다는 경고도 나온다. 점점 더 많은 기업들이 외부 클라우드를 빌려 쓰는 대신 자체 서버에 맞춤형 AI 모델을 직접 구축하려는 움직임이 늘고 있기 때문이다. 이로 인해 해커가 침투해 서버 연산량이 갑자기 치솟더라도 기업 입장에서는 이를 단순한 업무량 증가로 여길 뿐 즉각적인 해킹 신호로 포착하기 어렵다는 설명이다. 

박선영 기자 pomme@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지