AI추론은 전기·열 먹는 하마 … 구원투수로 떠오른 '삼전닉스'

하이닉스, 전력 효율
75% 개선 '소캠2' 선봬
빅테크서 러브콜 쇄도
삼전, GPU 필요 없는
고성능 AI반도체 개발

추론 중심의 인공지능(AI) 패러다임에서 기업들이 직면한 가장 큰 과제는 전기료와 발열이다. 기존 챗봇과 달리 사용자의 복잡한 명령을 스스로 판단하고 실행하는 에이전틱 AI는 답변을 내놓기 전 수많은 추론 과정을 거치며 막대한 연산량을 소모한다. 젠슨 황 엔비디아 최고경영자(CEO)는 "AI 추론 비용이 매년 10배씩 낮아져야만 에이전트 AI가 비즈니스적으로 성립할 수 있다"고 지적한 바 있다.

막대한 비용 문제로 고민하는 빅테크들의 구원투수로 등장한 것이 K반도체다. 한국은 빅테크들이 강력한 추론 모델을 실제로 구동하기 위해 거쳐야 하는 인프라스트럭처 파트너로서 대체 불가한 역할을 수행하고 있다.

SK하이닉스가 지난달 양산을 발표한 192GB 소캠(SOCAMM)2는 원래 모바일 기기용 저전력 기술인 LPCAMM2를 서버용으로 이식한 제품이다. 기존 제품 대비 추론 전력 효율을 75% 개선해 엔비디아의 차세대 추론 전용 플랫폼인 베라 루빈의 필수 파트너로 낙점됐다. 메모리가 단순히 데이터를 저장하는 장치를 넘어 AI 모델이 실시간으로 심사숙고하는 과정에서 발생하는 열과 전력을 통제하는 핵심 '연산 인프라'로 격상된 셈이다.

삼성전자는 엔비디아의 의존도를 근본적으로 낮출 수 있는 대안을 제시했다. 그래픽처리장치(GPU) 없이 고성능 추론이 가능한 전용 가속기 '마하-2'를 개발했다. 마하-2는 메모리와 프로세서 사이 병목 현상을 획기적으로 줄여 고가의 고대역폭메모리(HBM) 없이도 저전력으로 강력한 에이전트 기능을 수행할 수 있다. '지능의 단가'를 낮추려는 글로벌 기업들로선 매력적인 선택지가 될 수 있는 것이다. 엔비디아의 독점을 벗어나려는 마이크로소프트(MS)와 메타 등 빅테크들로선 더욱 눈길이 갈 수밖에 없다.

추론 경제의 성패는 지능의 단가를 누가 더 낮게 제공하느냐에 달려 있다. 한국 반도체 산업이 메모리 납품 업체를 벗어나 전 세계 빅테크들이 반드시 손을 잡아야 하는 전략적 파트너로서 자리매김할 수 있는 기회가 열리는 셈이다.

[이영욱 기자]