과기정통부·AMD·모레·망고부스트, 국산 NPU 결합 인프라 실증 착수

[인더스트리 AI] 100억원 규모 실증 돌입…AMD·모레·망고부스트와 생태계 가동

[디지털데일리 김문기 기자] 과학기술정보통신부가 특정 외산 GPU 독점 구도를 타파하고 국가 인공지능(AI) 인프라 주권을 확보하기 위해 AMD와 손잡고 국산 신경망처리장치(NPU) 결합 대규모 실증 사업에 착수한다.

장정희 AMD코리아 커머셜 영업 총괄 대표의 사회로 4일 서울 강남구 삼성동 웨스틴 서울 파르나스 호텔에서 열린 '어드밴싱 AI 월드투어 및 AI 데브데이 서울 2026' 패널 토론에서는 정부와 국내 핵심 AI 반도체·소프트웨어 기업들이 참여해 '한국 AI 산업의 미래: 인프라에서 실질적 성과까지'를 주제로 국가 차원의 AI 인프라 자립 전략을 제시했다. 이날 대담에는 이도규 과학기술정보통신부 연구개발정책실장, 조강원 모레 대표, 김장우 망고부스트 대표가 패널로 참석했다.

이도규 과기정통부 실장은 AI 연산 중심축이 학습에서 추론으로 이동하는 기술 전환기를 맞아 국산 NPU 생태계를 국가 주도로 육성하겠다는 의지를 밝혔다.

이 실장은 "2030년이 되면 전체 AI 워크로드 중 추론 비중이 60.0%까지 치솟고 학습은 40.0%로 역전된다"라며 "추론 단계에서 폭증하는 막대한 전력 소모와 운영 비용을 감당하기 위해서는 전력 대비 성능이 뛰어난 국산 NPU가 시장의 주류로 자리 잡아야 한다"라고 진단했다.

정부는 국산 하드웨어 신뢰성을 증명하기 위해 자체 성능 검증 지표를 현장에 도입하고 상용 레퍼런스 구축을 본격화한다. 이 실장은 "지난해 15개 수요·공급 기관 협의체를 통해 마련한 NPU 성능 검증 지표 '케이코프(K-Perf)'가 현장 검증 수단으로 안착했다"라며 "지난달 모 기업이 100억원 규모의 NPU 구매 조건으로 케이코프를 활용해 성능 검증을 마쳤다"라고 밝혔다.

이어 "단순 칩 단위 지원을 탈피해 내년에는 AMD의 중앙처리장치(CPU)·GPU와 국산 NPU를 결합한 대규모 실증 레퍼런스를 구축해 공공과 민간 시장 진입 장벽을 낮추겠다"라고 말했다.

지난 7월 미국 샌프란시스코에서 체결된 과기정통부와 AMD 간 업무협약(MoU)의 세부 조항도 공개됐다. 이 실장은 "MOU 1조에 '한국 토종 NPU 기업과의 협력'을 명시한 것은 대단히 이례적"이라며 "AMD의 개방형 컴퓨팅 전략과 한국 정부의 국산화 의지가 결합한 결과"라고 설명했다.

조강원 모레 대표는 특정 칩셋 제조사에 묶이지 않는 소프트웨어 독립성의 필요성을 역설했다. 조 대표는 "글로벌 GPU 공급 부족이 심화하는 상황에서 특정 벤더 제품에만 의존해서는 국내 데이터센터를 적기에 구축할 수 없다"라며 "어떤 반도체가 주어지든 즉시 데이터센터를 구동할 수 있는 소프트웨어 가속 최적화 역량을 확보해야 한다"라고 말했다.

오픈소스 모델의 상용화 전환 위험에 대비한 독자 모델 구축 필요성도 제기했다. 조 대표는 "메타가 라마(Llama)를 상용화 기조로 전환했듯 현재 쏟아지는 중국발 오픈소스 모델 역시 언제든 비공개로 바뀔 수 있다"라며 "자회사 모티프(Motif)를 통해 자체 거대언어모델(LLM)을 개발하는 동시에 수천 장의 가속기를 단일 클러스터로 묶어 연산하는 분산 학습 역량을 축적하고 있다"라고 밝혔다.

이어 "엔비디아 쿠다(CUDA) 환경과 마찬가지로 AMD의 오픈소스 소프트웨어 플랫폼 ROCm에서도 모델은 기본적으로 안정 구동되며 차별화된 성능을 뽑아내는 것은 소프트웨어 엔지니어링의 영역"이라고 덧붙였다.

김장우 망고부스트 대표는 가속기와 네트워크, 스토리지를 아우르는 시스템 단위의 완성도를 강조했다. 김 대표는 "대기업들은 보안과 주권 문제로 데이터와 전체 시스템을 사내에 두길 원하지만 문제는 AI 인프라 구축 비용이 지나치게 높다는 점"이라며 "GPU 메모리 비용뿐 아니라 오픈소스 모델을 최적화하기 위해 투입되는 고액 엔지니어 인건비가 천문학적"이라고 지적했다.

이를 해결하기 위해 하드웨어와 소프트웨어를 통합 설계하는 이기종 풀스택 시스템을 대안으로 제시했다. 김 대표는 "가속기 자체의 성능뿐 아니라 네트워크와 스토리지 메모리 아키텍처를 최적화해 불필요한 계산량을 줄여야 인프라 총비용을 낮출 수 있다"라며 "AMD CPU 및 GPU, 국내 NPU, 국내 시스템 소프트웨어를 단일 패브릭으로 결합한 테스트베드를 구축하고 실증 서비스로 가격 대비 성능 우위를 증명할 것"이라고 밝혔다.

대담을 마무리하며 장정희 AMD코리아 총괄 대표는 "특정 단일 벤더의 폐쇄형 플랫폼에 갇혀서는 AI 강국으로 도약할 수 없다"라며 "정부와 산업계, 개발자가 함께 참여하는 개방형 컴퓨팅 생태계를 통해 한국 시장의 기술 선택권과 주도권을 확립해 나가겠다"라고 말했다.