‘공포’ 타이틀 달고 돌아온 ‘터보퀀트’ [AI 딥다이브]

반도체 사이클 종말 vs 제본스 역설

메모리 반도체 시장이 시끌시끌하다. 구글의 ‘터보퀀트(TurboQuant)’ 때문이다. 대규모 언어모델(LLM)이 추론(잠깐용어 참조)할 때 쌓아두는 KV 캐시(Key-Value cache)를 아주 작게 압축해, 메모리는 덜 쓰고 속도는 끌어올리려는 구글의 양자화 알고리즘이다. 쉽게 말해 메모리 효율성을 개선한다는 얘기다. 일각에선 이를 근거로 메모리 효율 개선 → 메모리 수요 감축 → 반도체 슈퍼사이클 종말 논리를 펼친다.

하지만 IT 업계 관계자들은 ‘단편적 시각’이라고 선을 긋는다. 일단 터보퀀트는 1년 전 공개된 구형 기술이다. 단지 구글이 자사 블로그에 자극적인 제목(Redefining AI efficiency with extreme compression)으로 재차 홍보한 파장이 시장에 번졌을 뿐이다. 또 터보퀀트가 추론 부문 KV 캐시만 겨냥한다는 점, 기술의 진화가 수요를 더 끌어올리는 ‘제본스 역설(Jevons Paradox)’ 등을 고려하면, 오히려 AI 시장 크기를 키우고 메모리 반도체 부문에도 긍정적 영향을 줄 것이란 의견이 지배적이다.

한종목 미래에셋증권 애널리스트는 “시장이 뉴스라고 불렀지만, 사실 뉴스가 아니었다”며 “중장기적으로 보면, AI 인프라의 물리적 토대를 공급하는 고대역폭메모리(HBM)와 고용량 D램, 기업용 스토리지의 전략적 가치는 오히려 높아질 것”이라고 설명했다.

구글의 터보퀀트가 메모리 반도체 시장의 변수로 떠올랐다. (로이터=연합뉴스)

터보퀀트 본질은 데이터 압축

‘제로 투 원’ 아닌 최적화 기술

터보퀀트는 거창한 이름과 달리 ‘완전히 새로운 기술’은 아니다. 기존 양자화(quantization) 기법의 연장선에 있는 데이터 압축 방식이다. LLM은 추론 과정에서 KV 캐시라는 일종의 부산물을 만들어낸다. KV 캐시는 대화가 길어질수록 계속 쌓인다. 문제는 이 데이터가 메모리를 빠르게 잡아먹는다는 점이다. 터보퀀트는 이 지점을 겨냥했다. KV 캐시를 더 적은 비트로 저장해 메모리 사용량을 줄이는 알고리즘으로 이해하면 쉽다.

압축 방식은 단순하다. 데이터를 그냥 줄이지 않는다. 먼저 모양을 바꾼다. 들쭉날쭉한 데이터를 비슷한 형태로 정리한 뒤 압축한다. 이렇게 하면 불필요한 정보가 줄어든다. 압축 과정에서 생기는 오차는 따로 보정한다. 쉽게 말해 억지로 구겨 넣는 압축이 아니라 ‘정리한 뒤 줄이는 압축’이다.

결과는 숫자로 드러난다. 구글에 따르면, 16비트로 저장하던 데이터를 3~4비트 수준까지 줄일 수 있다. 메모리 사용량은 크게 감소한다. 속도도 일부 구간에서 빨라진다. 중요한 건 성능이다. 압축을 했는데도 답변 품질이 크게 떨어지지 않는다. 이 지점이 기술의 핵심이다.

다만 짚어볼 대목은 있다. 구글은 터보퀀트 논문 등에서 비교 기준을 16비트로 삼았지만, 현장에선 이미 8비트 수준 최적화가 쓰인다. 이를 기준으로 보면 개선폭은 생각보다 크지 않다. 압축 효과는 구글이 언급한 6배가 아닌 2~3배 수준으로 줄어든다. 한종목 애널리스트는 “현장에선 이미 FP8(8비트), FP4(4비트)로 돌아가고 있어, 실질적 추가 이득은 6배가 아니라 약 2.7배에 불과하다”며 “또 KV 캐시 압축 자체는 이미 업계에서 다양한 방식으로 시도한 영역으로, 딥시크의 MLA(Multi-head Latent Attention)처럼 구조 자체를 재설계해 28배 압축한 접근방식도 있다. 터보퀀트 성능은 MLA 앞에서 초라한 수준”이라고 강조했다. 그러면서 “추론 시 양자화는 업계에서 이미 ‘해결된 문제’로 분류된다. 터보퀀트는 ‘제로 투 원(완전한 혁신)’이 아니다”라고 덧붙였다.

제본스 역설 반복

수요 늘릴 기술 진보

터보퀀트를 근거로 반도체 슈퍼사이클 종말을 주장하는 시각은 단순하다. ① 추론 단계에서 메모리 효율이 개선되면 ② 메모리 사용량은 줄어든다는 논리다. 이는 ③ 공급 부족을 기반으로 이어져온 반도체 슈퍼사이클 역시 멈춘다는 결론으로 이어진다.

하지만 이 논리 뒤에는 한 가지 전제가 있다. 효율이 좋아지면 수요가 줄어든다는 가정이다. 현실은 정반대로 움직인 사례가 많다. 비용이 낮아지면 사용은 줄지 않는다. 오히려 늘어난다. 기술이 싸질수록 더 많이 쓰이기 때문이다. 이른바 제본스 역설이다. 제본스 역설은 1865년 영국의 경제학자 윌리엄 제본스가 제시한 개념이다. 19세기 석탄 사용의 효율성을 높이는 기술이 발전하면서 석탄을 덜 쓸 것이라고 예상했지만, 실제로는 석탄 소비량이 늘었다는 이론이다. 기술 진보가 자원 소비 등 수요를 더 끌어올린다는 의미다. 이를 AI 시장에 대입하면 AI 효율성 개선은 AI 수요를 더 끌어올릴 가능성이 높다.

당장 AI 현장에서 벌어지는 실제 사례도 수두룩하다. 효율 개선이 꾸준히 이뤄지고 있지만 데이터 처리 등 컴퓨팅 수요는 줄기는커녕 계속해서 늘고 있다. 예를 들어, 앤트로픽의 ‘클로드’는 매주 30%씩 사용량이 늘고 있다. 담당 엔지니어가 효율화에도 ‘수요-공급 한계’를 마주했다며 어려움을 토로할 정도다. 최근 앤트로픽의 클로드 코드 담당 엔지니어 타릭 시파르(Thariq Shihipar)는 자신의 SNS에 “클로드 수요 증가에 대응하기 위해 일부 구독자의 세션 한도를 조정하고 있다”며 “효율 개선을 통해 부담을 낮췄지만, 급증한 수요로 인해 일부 사용자(7%)는 이전보다 더 빨리 한도에 도달할 수 있다”고 설명했다.

쉽게 말해 현재 AI 시장은 일종의 ‘맛집’에 비유할 수 있다. 손님은 계속 늘어나는데 테이블이 부족해 일부는 돌려보내야 하는 상황이다. 이때 테이블 회전율을 높이면 어떻게 될까. 손님이 줄어드는 게 아니라, 오히려 더 많은 손님을 받을 수 있게 된다. 효율 개선이 매출을 늘리는 꼴이다.

심지현 신한투자증권 애널리스트는 “터보퀀트는 KV 캐시 메모리만 해당되는 것이지 전체 메모리 사용량에 영향을 주는 것은 아니다”라며 “연산당 비용은 감소하지만, 총 비용은 늘어나는 ‘제본스 역설’ 가능성이 높다”고 말했다. 장문영 현대차증권 애널리스트도 “터보퀀트는 메모리 효율을 개선해 AI 활용 비용을 낮추는 방향으로 작용할 것”이라며 “중장기적으로는 AI 적용 범위 확대, 사용량 증가를 통해 오히려 메모리 수요 확대 요인으로 이어질 가능성이 높다”고 분석했다.

투자자라면 모건스탠리의 최근 보고서 내용도 참고할 만하다. 모건스탠리는 터보퀀트에 따른 하락을 메모리 반도체 종목 매수 기회로 봤다. 조셉 무어(Joseph Moore) 모건스탠리 애널리스트는 “구글이 메모리 사용량을 6배 줄였다는 보도가 많지만, 이는 전체 메모리가 아니라 KV 캐시 메모리만을 언급한 것”이라며 “이러한 과장된 주장 때문에 메모리 관련주가 일부 다시 하락세를 보였다”고 진단했다. 그는 “(공포로 인한 하락은) 구조적 성장의 흐름에 올라갈 기회”라고 짚었다.

구글은 왜 터보퀀트에 매달리나

검색 패권 되찾기 위한 전제 조건

앞서 언급한 대로 터보퀀트는 ‘완전한 혁신’도 아니고, 이미 업계에서 유사한 시도가 이어져온 영역이다. 그런데, 구글은 왜 여기에 공들이는 걸까. 단순한 비용 절감 이상의 목적이 있다는 해석이 나온다.

한종목 애널리스트는 “터보퀀트는 메모리 절감 기술인 동시에 ‘검색 인프라’ 기술”이라고 설명한다. 결국 구글 터보퀀트의 진짜 의도는 검색 인프라 개선이란 것이다.

검색 환경은 과거와 180도 달라졌다. 과거에는 키워드를 입력해 링크를 찾았다. AI 시대에는 질문을 던지면 답을 생성한다. 이를 위해선 긴 문맥을 처리해야 한다. 다양한 데이터를 동시에 불러와 결합해야 한다. 검색 품질은 결국 ‘얼마나 많이 기억하고 얼마나 빨리 찾아내느냐’에 달려 있다. 현재 주요 AI 에이전트는 이를 위해 100만~200만개 토큰을 활용 중이다. 하지만 구글 AI를 이끄는 제프 딘 수석 과학자는 “현재 수백만 토큰 수준의 컨텍스트는 턱없이 부족하다”고 지적한 바 있다. 그의 목표는 ‘수조개 토큰’이다. 인터넷 전체를 실시간으로 이해하는 수준이 돼야 한다는 것이다.

수조개 토큰을 위한 기술 중 하나는 ‘벡터 검색(Vector Search)’이다. AI가 모든 데이터를 직접 계산하는 대신 필요한 정보만 골라 빠르게 가져오는 방식이다. 단어와 문장, 이미지를 숫자로 바꿔 저장한 뒤 질문과 가장 비슷한 정보를 찾아낸다.

문제는 준비 과정이다. 이 방식은 데이터를 미리 정리해둬야 제대로 작동한다. 기존 기술은 데이터 특성에 맞춰 ‘코드북(데이터 압축 기준표)’을 만들고 이를 토대로 압축을 진행했다. 데이터가 많아질수록 이 과정은 길어졌다. 결국 검색 속도를 떨어뜨리는 병목으로 작용했다.

터보퀀트는 이 과정을 단순화한다. 데이터를 일일이 분석해 기준을 만드는 대신 데이터 모양을 먼저 비슷하게 맞춘다. 앞서 언급한 ‘무작위 회전’ 방식이다. 이렇게 되면 별도의 기준표 없이도 바로 압축이 가능해진다. 복잡한 사전 작업이 줄어들고 곧바로 저장과 활용이 가능해진다.

이를 통해 달라지는 건 속도다. 데이터를 쌓고 찾고 활용하는 전 과정이 짧아진다. 특히 데이터 규모가 커질수록 효과는 더욱 두드러진다.

[잠깐용어]

*학습과 추론

AI 시장은 크게 학습(Learning)과 추론(Inference)으로 구분된다. 학습은 수많은 데이터를 입력해 AI 모델을 가르치는 과정이다. 추론은 학습 데이터를 바탕으로 결과물을 도출하는 단계다. 학습은 고도의 대규모 병렬 연산이 핵심이다. 반면 추론의 핵심은 지연시간(latency) 최소화다. 계산이 적은 만큼 빠르게 처리하는 게 중요하다.

[최창원 기자 choi.changwon@mk.co.kr]

[본 기사는 매경이코노미 제2354호(2026.04.08~04.14일자) 기사입니다]

[Copyright (c) 매경AX. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지]