AI계정-서버 훔쳐 쓰고, 다크웹서 헐값에 팔고…‘LLM 재킹’ 기승

타인의 인공지능(AI) 계정이나 클라우드 서버를 탈취해 고가(高價) AI 모델을 무단 사용하는 ‘LLM 재킹’ 범죄가 기승을 부리고 있다는 진단이 나왔다. 말 그대로 타인의 거대언어모델(LLM) 계정을 강탈(jacking)해 사용하는 것을 뜻한다.

26일(현지 시간) 파이낸셜타임스(FT)에 따르면 존 헐트퀴스트 구글 위협인텔리전스그룹(GTIG) 수석 분석가는 올해 들어 LLM 재킹이 급증했다며 “AI 권한을 둘러싼 거대한 지하 경제가 형성되고 있다”고 경고했다.

LLM 재킹은 오픈AI의 챗GPT 등 유료 AI 계정이나 기업 서버 권한을 빼돌려 막대한 컴퓨팅 비용을 피해자에게 떠넘기는 수법이다. 탈취된 계정은 다크웹(특정 브라우저로만 접속할 수 있는 음성적 웹 공간)에서 거래되며 갈취, 스파이 활동 등 사이버 범죄에 악용되고 있다.

이달 GTIG 보고서에 따르면 관련 수요가 몰리며 최근 암시장 AI 계정 평균 거래가는 2배 이상 뛰었다. 그럼에도 앤스로픽, 구글, 오픈AI 등 주요 빅테크의 AI 이용권은 정가보다 최대 97% 싸게 거래되고 있다. 계정이 차단되면 무료로 교체해 주는 ‘접속 보장’ 서비스까지 등장했다. 보고서에는 범죄조직 등이 기업 클라우드에 침투해 자체 AI 모델을 몰래 가동한 사례도 담겼다. 과거 타인 서버를 장악해 가상화폐를 채굴하던 범죄와 판박이다.

문제는 기업이 AI를 많이 도입할수록 LLM 재킹 탐지가 더욱 어려워진다는 점이다. 연산량이 급증해도 정상 업무인지 해커 소행인지 단번에 가려내기 쉽지 않기 때문이다. 헐트퀴스트 분석가는 “기업들이 AI 인프라를 늘리는 지금이 해커들에겐 늘어난 연산량이라는 ‘소음’ 속에 숨어들기 좋은 기회”라고 말했다.

김재형 기자 monami@donga.com