토큰·KV캐시·터보퀀트 ‘외계어’ 쉽게 풀어드립니다…삼전·하닉 영향까지 [갭 월드]

■서종‘갑 기자’의 갭 월드(Gap World) <50>
구글 ‘터보퀀트’ AI 메모장 6분의 1로
“메모리 수요 줄 수도” 시장 공포 질려
업계·전문가는 기우에 불과 우려 일축
딥시크 때와 유사…“AI 사용 더 늘 것”

구글이 공개한 인공지능(AI) 압축 기술 터보퀀트(TurboQuant)에 세계 반도체 종목들, 특히 한국 메모리 반도체 투톱인 삼성전자(005930)와 SK하이닉스(000660) 주가가 요동친 한 주였다. 최근 메모리 반도체 기업 주가는 AI 시장이 학습에서 추론으로 넘어가며 고대역폭메모리(HBM)는 물론 D램과 낸드플래시 수요까지 기하급수적으로 늘어났지만 공급은 부족하다는 소식에 역사적 신고가 기록을 연일 써나갔다. 그러나 터보퀀트 등장에 “메모리 반도체 덜 팔리는 것 아니냐”는 공포가 번지며 관련 주가가 일제히 주저앉았다.

여기에 매슈 프린스 클라우드플레어 최고경영자(CEO)가 터보퀀트를 두고 “구글의 딥시크 모멘트”라고 극찬하면서 불안감은 더 커졌다. 하지만 산업계와 증권가의 시각은 전혀 다르다. 낯선 기술 용어에 지레 겁먹은 시장의 오해일 뿐, 실상은 AI 반도체 시장 규모를 더 극적으로 키워줄 선순환의 신호탄이라는 것이다.

토큰은 AI 단어장, KV 캐시는 메모장, 터보퀀트는 작은 글씨

터보퀀트가 뭔지, 어떤 영향이 있을지 이해하려면 우선 낯선 외계어들부터 파악해야 한다. AI는 사람의 말을 토큰(Token·단어 조각) 단위로 쪼개서 읽는다. 대화가 길어지면 AI는 앞서 나눈 이야기(토큰)의 맥락을 잊지 않기 위해 고대역폭메모리(HBM) 같은 곳에 임시로 내용을 적어둔다. 두꺼운 책을 읽을 때 내용을 잊지 않으려고 옆에 포스트잇을 붙여두는 것과 같은데 이 AI의 임시 메모장을 바로 KV 캐시(Key-Value Cache)라고 부른다.

문제는 최근 AI가 한 번에 책 수십 권 분량의 데이터를 처리하면서 발생했다. 이 메모장(KV 캐시)이 순식간에 꽉 차버리는 병목 현상이 생겼기 때문이다. 기존에는 막대한 비용을 들여 메모리 반도체 자체를 무작정 늘리는 수밖에 없었다.

이 한계를 깬 것이 터보퀀트다. 터보퀀트는 메모장에 글씨를 쓰는 방식을 혁신적으로 바꾼 기술이다. 기존에는 굵은 사인펜으로 큼지막하게 글씨를 써서 메모장 공간을 낭비했다면 터보퀀트는 정확도 손실 없이 현미경으로 봐야 할 만큼 촘촘하게 적어 넣는 일종의 초압축 미세 필기법을 쓴다.

딥시크 때도 속았던 시장…“제번스의 역설 재현될 것”

메모장(메모리)을 덜 써도 된다는 사실이 부각되며 기존 반도체 정점 통과(피크아웃) 우려가 불거졌고 관련 종목의 투매를 불렀다는 분석이다. 하지만 업계 전문가들은 이는 과거 중국의 AI 모델 딥시크가 고효율 알고리즘을 들고나왔을 때 HBM 시장이 위축될 것이라던 생각과 정확히 일치한다고 지적한다. 당시 딥시크 충격 이후에도 HBM 수요는 오히려 더 가파르게 우상향했다. 이는 제번스의 역설(Jevons Paradox)로 설명된다. 경제학 원리로 기술 효율이 높아져 자원(추론) 비용이 하락하면 오히려 전체 사용량이 폭발적으로 늘어남을 뜻한다.

터보퀀트 소식 이후 마이크론 주가가 급락하고 삼성전자와 SK하이닉스 주가가 5% 이상 조정받을 때 현장 분위기는 증시와 크게 달랐다. 터보퀀트로 메모리 수요가 줄 것이냐는 질문에 업계에서는 ‘터보퀀트가 뭐죠?’라고 되물을 정도였다.

메모리 부족 여전…“LTA 요청 많아, 가려 받는다”

메모리 부족 현상도 여전하다. 품귀 현상이 극심해 빅테크들은 메모리 3사와 어떻게든 3~5년 이상 장기 공급 계약(LTA)을 맺으려 애쓰고 있다. ‘슈퍼 을’ 위치인 메모리 업체들은 계약을 가려받을 정도다. 최근 SK하이닉스 주주총회에서 곽노정 대표는 “현실적으로는 공급 제약 상황이 타이트해 모든 LTA 요청을 다 반영하기가 어렵다”며 “고객과 관계와 수요 가시성, 제품 믹스, 전략적 중요도 등을 종합적으로 고려하고 있다”고 설명하기도 했다.

증권가 분석도 궤를 같이 한다. 이창민 KB증권 연구원은 “터보퀀트 등 저비용 AI 기술은 AI 사용 장벽을 낮추고 전체 수요를 폭발시키는 방향으로 작용한다”며 “연산량과 탑재량이 늘어나 생태계가 확장되면 최대 수혜는 결국 메모리 업체가 될 것”이라고 분석했다. 숀 김 모건스탠리 분석가 역시 “비용이 감소하면 AI 도입의 수익성이 높아져 장기적으로 메모리 제조사에 이익”이라고 짚었다.

※‘갭 월드(Gap World)’는 서종‘갑 기자’의 시선으로 기술 패권 경쟁 시대 쏟아지는 뉴스의 틈(Gap)을 파고드는 코너입니다. 최첨단 기술·반도체 이슈의 핵심과 전망 ‘갭 월드’에서 확인하세요. 갭 월드 코너와 기자페이지를 구독해주세요.

궁금한 사항이나 건설적인 논의와 제안은 언제든 환영입니다. 제 메일로 연락주시면 후속 취재해 다음 시리즈에 반영하겠습니다.

구글 ‘터보퀀트’ 쇼크! 구글이 메모리 6배 아끼면서 삼성·마이크론 싹쓸이하는 진짜 이유

서종갑 기자 gap@sedaily.com