넷앱·인텔, “소규모 AI, CPU서버로 충분”… 풀스택 솔루션 내놨다

CPU서버·플래시 스토리지 조합
‘제온 6 기반 넷앱 AI팟 미니’ 발표

기업이 업무 생산성을 위해 인공지능(AI) 기술의 도입을 고려하지만, 직접 도입은 고가의 생소한 'GPU 서버'와 소프트웨어 기술의 비용적, 기술적 부담으로 제대로 진행되지 않는 경우가 흔하다. 넷앱과 인텔은 이러한 기업의 어려움을 해결하기 위한 풀스택 AI 솔루션 '인텔 제온 6 기반 넷앱 AI팟 미니(NetApp AIPod Mini with Intel)'를 선보인다고 29일 미디어 브리핑을 통해 소개했다.

국내에서는 테라텍과 SK네트웍스서비스를 통해 공급되는 '인텔 제온 6 기반 넷앱 AI팟 미니'는 인텔 제온 6 프로세서 기반 CPU 서버와 넷앱의 올플래시 스토리지, OPEA(Open Platform for Enterprise AI) 플랫폼을 핵심 요소로 삼았다. 이 솔루션의 경쟁력은 소규모 팀 단위 정도의 AI 활용에 최적화된 실용적인 성능을 상대적으로 적은 비용 부담으로 빠르게 도입해 성과를 얻을 수 있다는 점이다.

김기섭 넷앱 상무 / 권용만 기자

인텔 CPUㆍ넷앱 스토리지ㆍ오픈소스 플랫폼 결합

김기섭 넷앱 상무는 '인텔 제온 6 기반 넷앱 AI팟 미니'에 대해 "지금까지 기업의 AI 프로젝트 진행에 몇 달이 걸리던 과정을 쉽고 빠르게 할 수 있는 패키지형 솔루션"이라고 소개했다. 이어 "기업들의 AI 활용에서 추론에 대한 수요, 특히 최적화된 환경에서 CPU 기반으로도 AI를 활용하려는 수요가 늘고 있다"며 "이번 'AI팟 미니'는 인터넷을 쓸 수 없거나 산업용 애플리케이션 등 특화 산업군에서의 수요를 기대한다"고 말했다.

이 '인텔 제온 6 기반 넷앱 AI팟 미니'는 인텔의 최신 '제온 6' 프로세서와 넷앱의 올플래시 스토리지, OPEA 플랫폼을 핵심 요소로 한다. 넷앱은 이 '인텔 제온 6 기반 넷앱 AI팟 미니'의 구성 요건에서 인텔 제온 6 프로세서 기반 서버와 넷앱의 올플래시 스토리지, 성능 요건을 충족하는 네트워크 스위치, OPEA 플랫폼의 사용 요건만 충족하면 서버나 스위치 제조사에 대한 요건은 없는 것으로 알려졌다. 글로벌 오퍼링이지만 기본 요건을 충족한다면 상세 구성은 지역별, 파트너별로 달라질 수 있다.

넷앱의 'AI팟 미니'는 기본적으로 레퍼런스 디자인 기반의 '풀 스택'을 갖춰서, 실제 기업들이 도입했을 때 긴 시간이 필요한 준비 과정을 크게 줄일 수 있다는 점이 장점이다. 이 시스템은 소규모 사용자들을 위한 엔트리급 구성이지만 더 큰 규모의 사용 환경에 대해서도 서버와 스토리지의 확장을 통해 대응 가능하다. 

이 솔루션에 사용되는 OPEA(Open Platform for Enterprise AI) 플랫폼은 현재 리눅스 재단 산하에서 인텔 뿐만 아니라 업계의 다양한 기업들이 참여하고 있는 프로젝트다. 이 플랫폼을 기반으로 다양한 오픈소스 기반 기술과 모델을 조합할 수 있고, 기본적인 챗봇부터 문서요약, 이미지 생성, 코드 생성 등 플랫폼 설치 직후 바로 사용할 수 있는 사전 구성된 7~8개 기능이 준비돼 있어 편의성을 높였다. 

조민성 인텔코리아 상무 / 권용만 기자

인텔 '제온 6', CPU 만으로도 효과적인 AI 환경 구축 가능해

조민성 인텔코리아 상무는 "이번 '인텔 제온 6 기반 넷앱 AI팟 미니'는 인텔에 있어 AI를 위한 환경을 CPU만으로 구성했다는 것, 인텔의 소프트웨어 스택 위에서 구동된다는 데 의미가 있다"고 밝혔다. 이어 "모든 AI 워크로드에서 GPU만 고집할 필요는 없다"며 "현재 AI 워크로드 중 전통적인 머신러닝이나 소형언어모델, 거대언어모델의 RAG(검색증강생성) 부분에서는 CPU만으로도 효율적으로 쓸 수 있다"고 제시했다.

인텔 제온 6 프로세서는 AI 작업을 수행함에 있어 몇 가지 기술적 경쟁력을 갖추고 있다. 특히 인텔이 4세대 제온 스케일러블 프로세서부터 탑재한 AMX(Advvanced Matrix Extensions) 명령어 셋은 AI 워크로드에 많이 사용되는 행렬 연산에서 이전의 CPU 대비 큰 성능 향상을 제공하며, 일부 워크로드에서는 GPU 대비로도 경쟁력을 갖출 수 있을 정도다. AI 환경에서 중요한 메모리 성능에서도 MCR(Multiplexer Combined Ranks) DIMM을 지원해 메모리 전송 성능을 높였고, 프로세서에 최적화된 소프트웨어도 제공하고 있다.

OPEA에 대해서는 "인텔이 주도해 생태계 내 많은 기업이 참여하고 있다"며 "필요에 따라 모듈을 조합해 유연하게 구성할 수 있지만, 엔드투엔드로 바로 사용할 수도 있다"고 소개했다. 이어 이번 '인텔 제온 6 기반 넷앱 AI팟 미니'에 대해서는 "생성형 AI를 중심으로 한 번에 도입할 수 있게 한 사례"라며 "챗봇 기반에서 소프트웨어를 넷앱의 스토리지에 맞게 최적화했다"고 언급했다.

'인텔 제온 6 기반 넷앱 AI팟 미니' 구성된 장비 모습 / 권용만 기자

'인텔 제온 6 기반 넷앱 AI팟 미니' 레퍼런스 아키텍처 구성 / 권용만 기자

부서 단위의 업무에 최적화된 구성

'인텔 제온 6 기반 넷앱 AI팟 미니'의 레퍼런스 아키텍처는 넷앱의 올플래시 스토리지와 네트워크 스위치, 애플리케이션 서버 두 대와 제어 서버 한 대로 구성된다. 국내에 공급되는 구성에서는 애플리케이션 서버에 86코어 구성의 '제온 6787P' 프로세서를 탑재해 처리 성능을 극대화했다. 구성 요소들은 필요에 따라 유연하게 확장 가능하다. 하드웨어 구성은 기본 요건에 충족하면 다양한 조합이 가능하고, 테라텍과 SK네트웍스서비스는 이를 기반으로 소프트웨어를 조합한 솔루션 구성, 구축과 고객 지원을 제공하는 구조다.

강유진 테라텍 수석 엔지니어는 "이 'AI팟 미니'는 기본 구성에서도 30~50명 수준의 사용자는 충분한 처리량과 첫 토큰 생성의 빠른 반응성을 모두 제공한다. RAG를 사용해 정확한 처리도 가능하다"며 "데이터 전문 역량이 없더라도 빠르게 구축, 활용할 수 있는 점과 다양한 설정이 가능하다. GPU 대비 경제적인 점도 장점"이라고 말했다.

'인텔 제온 6 기반 넷앱 AI팟 미니'는 온프레미스 AI 환경이 필요한 30~50명대의 중소규모 조직이 활용하기 적합한 환경을 제공한다. 분야별로는 리테일 분야에서의 개인화 쇼핑 경험 및 동적 가격 책정, 제조업에서의 예측 유지보수 및 공급망 최적화, 공공 분야의 민원 서비스, 법무팀의 문서 초안 및 연구 자동화 등에 유용하다. 

권용만 기자

yongman.kwon@chosunbiz.com