“한국 기술을 AMD 기술에 통합”… 국산 NPU·DPU 묶어 ‘이기종 AI 인프라’ 확대

AMD ‘어드밴싱 AI 월드투어 및 AI 데브데이 서울 2026’ 개최
CPU·GPU에 국산 반도체 결합… 추론 성능·운영 효율 검증
모레 “토큰 판매 이익률 60% 기대”… 소프트웨어 최적화 경쟁
네이버클라우드, AMD 서버 3만5000대 사용… “랙 공간 20~25% 절감”

키스 스트라이어(Keith Strier) AMD 글로벌 AI 시장 담당 수석부사장이 4일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열린 ‘어드밴싱 AI 월드투어 및 AI 데브데이 서울 2026’에서 기조연설을 하고 있다./정두용 기자

“우리는 AMD의 기술을 한국에 가져오는 데 그치지 않고 한국의 기술을 AMD 기술에 통합하겠다고 약속했습니다.”

키스 스트라이어(Keith Strier) AMD 글로벌 AI 시장 담당 수석부사장은 4일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열린 ‘어드밴싱 AI 월드투어 및 AI 데브데이 서울 2026’에서 이같이 말했다. AMD는 이날 국내 인공지능(AI) 반도체 기업 퓨리오사AI, AI 인프라 기업 망고부스트와 업무협약(MOU)을 맺고 서로 다른 반도체를 함께 쓰는 ‘이기종 AI 인프라’ 개발에 나서기로 했다.

AMD의 중앙처리장치(CPU)·그래픽처리장치(GPU)에 퓨리오사AI의 신경망처리장치(NPU), 망고부스트의 데이터처리장치(DPU)와 소프트웨어를 결합하는 구상이다. AI 작업에 맞춰 각 반도체의 강점을 활용해 추론 비용과 전력 부담을 낮추겠다는 것이다. 엔비디아 중심의 AI 인프라 시장에서 국내 기업과 손잡고 기술 선택지를 넓히려는 전략의 일환이다.

◇ 국산 NPU·DPU 결합… 내년 서울서 AI 인프라 검증

세 회사는 AI 추론 작업에 맞춰 연산 자원을 배분하는 인프라 설계를 공동으로 검토하고 성능을 검증하기로 했다. 망고부스트가 서울에서 운영하는 인프라를 활용한 참조 시스템 구축도 추진한다. 이곳에서 여러 반도체를 함께 구동해 성능과 연동을 시험하겠다는 구상이다. 스트라이어 수석부사장은 “내년 봄 서울에 첫 번째 참조 구축 클러스터를 마련하겠다”고 했다.

이번 협력은 과학기술정보통신부와 AMD가 지난 7월 맺은 업무협약의 연장선에 있다. 양측은 AI 컴퓨팅 인프라 구축과 국내 AI 연구센터 설립, 인재 양성을 추진 중이다. 이날 첫 업무협약 운영위원회도 열어 실행 방안을 논의했다. 류제명 과기정통부 제2차관은 “누구와 손을 잡고 각자의 강점을 어떻게 연결하느냐가 미래의 경쟁력을 좌우하게 될 것”이라고 말했다.

정부는 국산 NPU가 실제 서비스에서 성능을 입증하도록 지원할 방침이다. 이도규 과기정통부 정보통신정책실장은 패널 토론에서 국내 한 기업이 지난달 약 100억원 규모의 NPU 구매를 계획하면서 성능평가지표 ‘K-Perf’를 통한 검증을 전제조건으로 삼았다고 밝혔다. 그는 “내년에는 대규모 실증 레퍼런스를 구축할 계획”이라며 공공기관과 기업의 국산 NPU 채택을 지원하겠다고 했다.

4일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열린 ‘어드밴싱 AI 월드투어 및 AI 데브데이 서울 2026’에서 참석자들이 한국 AI 생태계 발전 방향을 주제로 토론하고 있다. (왼쪽부터) 장정희 AMD코리아 커머셜 영업 총괄, 김장우 망고부스트 대표, 조강원 모레 대표, 이도규 과학기술정보통신부 정보통신정책실장./정두용 기자

◇ GPU 확보 넘어 ‘토큰 생산비’ 경쟁… 소프트웨어로 효율 높인다

AI 시장의 무게중심은 모델 학습에서 실제 서비스 운영과 추론으로 옮겨가고 있다. AI 사용량이 늘수록 같은 장비로 더 많은 요청을 처리하는 능력이 중요해진다. 여러 업무를 스스로 수행하는 에이전틱 AI는 연산뿐 아니라 자료 검색과 작업 실행도 필요해 CPU·메모리·네트워크를 함께 효율적으로 활용해야 한다.

AMD는 GPU 72개를 한 랙에 묶는 ‘헬리오스(Helios)’와 작업에 맞춰 CPU 전용 또는 CPU·GPU 혼합 구성을 선택하는 ‘헬리온(Helion)’을 이런 시장 변화에 대응하는 제품으로 소개했다. 리테시 로히트 파텔 AMD 아시아태평양·일본 데이터센터 사업 개발 디렉터는 “에이전틱 AI는 GPU뿐 아니라 CPU·네트워크·저장장치·메모리·소프트웨어가 결합된 시스템”이라며 “요청에서 응답이나 행동에 이르는 여러 단계에서 CPU가 사용된다”고 말했다.

같은 반도체에서 더 많은 성능을 끌어내는 소프트웨어 최적화도 강조했다. AMD는 개방형 AI 소프트웨어 플랫폼 ‘ROCm’ 최적화로 같은 하드웨어에서 약 6개월 만에 특정 추론 작업의 성능을 3.3배 높였다고 밝혔다. 라민 로앤(Ramine Roane) AMD 부사장은 “하드웨어가 모든 주목을 받지만 실제로 GPU에서 얼마나 많은 가치를 얻을 수 있는지는 소프트웨어가 결정한다”고 했다.

조강원 모레 대표는 이런 변화가 AI 데이터센터의 수익 구조도 바꾸고 있다고 설명했다. GPU를 빌려주는 방식에서 AI 모델을 직접 운영하고 토큰(AI가 문장 등을 처리하고 생성하는 기본 단위)을 판매하는 방식으로 사업이 확대되고 있다는 것이다. 조 대표는 “고객은 이제 GPU 자체보다 최신 AI 모델을 지원하는지, 토큰 비용이 얼마인지를 본다”고 말했다.

모레는 AMD MI355X GPU에 자체 소프트웨어를 적용해 AI 모델 ‘GLM 5.2’를 구동했을 때 엔비디아 B200 기반 비교 시스템보다 서버당 추론 처리량을 2배 이상 높였다고 밝혔다. 사용자당 답변 생성 속도를 초당 30~50토큰 수준으로 유지하면서 서버 전체의 답변 생성량을 늘렸다는 설명이다. 별도의 토큰 판매 시뮬레이션에서는 소프트웨어 최적화로 이익률을 약 60%까지 높일 수 있다고 분석했다.

4일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열린 ‘어드밴싱 AI 월드투어 및 AI 데브데이 서울 2026’ 행사장에 AMD 협력사들의 전시 부스가 마련돼 있다./정두용 기자

◇ AMD 택한 네이버클라우드 “랙 공간 20~25% 절감”

데이터센터 세션에서는 네이버클라우드의 AMD CPU 도입 성과도 공개됐다. 네이버클라우드는 국내 13개 데이터센터에서 약 25만대의 서버를 운영하며, 이 중 약 3만5000대에 AMD 서버용 CPU ‘에픽(EPYC)’을 사용하고 있다. 에픽 프로세서 구매량은 2023년 약 1만3000개에서 작년 3만6000개 이상으로 늘었다.

네이버클라우드는 자사 데이터센터에 인텔 CPU를 주로 사용해 왔지만, AMD 칩 비중을 점차 늘리고 있다. 검색·클라우드 수요 증가에 맞춰 한정된 공간과 예산으로 더 많은 연산 자원을 확보해야 했기 때문이다. 박영희 네이버클라우드 이사는 “인텔이 제안했던 고코어 CPU는 비용이 굉장히 높았다”며 “가용한 금액으로 증설하려다 보니 증설 속도가 늦어지는 문제가 발생했다”고 말했다.

네이버클라우드는 CPU 가격뿐 아니라 설치 공간과 전력·냉각 비용까지 포함한 총소유비용(TCO)을 따져 AMD를 선택했다. 서버 한 대에 더 많은 연산 자원을 담으면서 전체 비용도 줄일 수 있다는 판단에서다. 박 이사는 “에픽은 인텔 대비 랙 공간을 20~25% 줄여 데이터센터에 CPU를 추가로 넣을 공간을 확보하는 데 도움이 됐다”고 했다. 이어 “올해 하반기에는 144코어 에픽 9005 시리즈를 퍼블릭 클라우드에 도입할 예정”이라며 “다음 단계도 AMD와 협업하려고 한다”고 말했다.

박영희 네이버클라우드 이사가 4일 서울 강남구 웨스틴 서울 파르나스 호텔에서 열린 ‘어드밴싱 AI 월드투어 및 AI 데브데이 서울 2026’에서 AMD 서버용 중앙처리장치(CPU) 도입 성과를 발표하고 있다. 네이버클라우드는 AMD 에픽(EPYC) 기반 서버 약 3만5000대를 운영하면서 데이터센터 랙 공간을 20~25% 절감했다고 밝혔다./정두용 기자

- Copyright ⓒ 조선비즈 & Chosun.com -