[DX 넘어 AX 빅뱅] 1000개 AI 프로젝트 가동…델 "AI의 모든 것 담겠다"

델테크놀로지스의 엔터프라이즈 AI 관련 엔비디아와의 협력 내용 <자료:한국델>

김경진 한국델테크놀로지스 총괄사장이 지난 4월 11일 기자간담회를 열고 AI PC 신제품과 클라이언트 제품 전략 등을 소개하고 있다. 한국델 제공

엔터프라이즈 IT 인프라 분야의 강자 델테크놀로지스가 생성형 AI 시대에 또 한번 존재감을 발휘하고 있다. 생성형 IT 관련 투자가 데이터센터를 비롯한 인프라에 주로 집중되는 가운데 이 분야에서 확실히 입지를 다져온 델의 무게감이 더 커지고 있다.

딥러닝 기반 AI 기술이 단순히 기존 데이터를 기반으로 예측하거나 분류하는 정도였다면, 생성형 AI는 이용자가 요구한 질문이나 과제를 해결하기 위해 스스로 데이터를 찾아 학습해 이를 토대로 능동적으로 데이터나 콘텐츠 등 결과물을 제시한다. 컨슈머 레벨의 AI는 이미 사람과 기술간의 상호작용 방식을 혁신하고 있고, 기업에서는 생성형 AI를 확고한 경쟁 우위 수단으로 활용하고 있다.

생성형AI는 퍼블릭 클라우드와 온프레미스 등 여러 위치에 존재하게 되는데, 엔터프라이즈 기업의 경우 데이터 프라이버시, 데이터의 위치, 성능 및 결과 도출 시간, 비즈니스 목표를 위한 모델의 세부 조정, 효율성, 제어 측면에서 온프레미스 또는 단일 테넌트 인프라 접근 방식이 권장된다. 안정적으로 운영이 가능하며, 보안 측면에서 신뢰할 수 있고, 관리하기 용이한 강점이 있기 때문이다. 또 데이터와 가까운 곳에 위치한 고성능의 데이터센터 인프라가 위치하는 이유도 있다.

데이터 프라이버시 및 엔터프라이즈 IP의 보안을 위해 공개적으로 공유되는 데이터 세트가 아닌 자체 보유 데이터로 생성형 AI 모델을 구축해야 하는 경우에는 더욱 온프레미스 기반의 AI가 유리하다. 효율화 및 생산성 향상을 위한 라이프사이클 관리에 맞춰 지능적으로 인프라를 설계하고 제어할 수 있으며, 서비스형 오퍼링을 활용하면 OpEx 재무 모델, 온디맨드 용량 유연성 등의 클라우드 이점도 누릴 수 있다.

델 테크놀로지스는 데이터 수집 및 저장부터 분석, 그리고 모델 구축과 훈련, 가속된 추론 및 업무 환경에서의 사용에 이르기까지, AI 수명주기 전반을 지원한다. 데스크톱부터 데이터센터, 클라우드에 이르기까지 실제 AI 결과물을 제공할 수 있는 깊이와 폭의 광범위한 AI 솔루션 포트폴리오를 갖추고 있으며 에코시스템 측면에서 독보적이다. AI 전용서버 수요 급증

실제로 24년 1월에 마감된 4분기 본사 실적을 기준으로 AI 전용 서버의 주문이 전분기 대비 40% 증가했으며, 4분기 동안 AI 최적화된 서버 매출이 8억달러가량 발생했다. AI 최적화 서버의 백로그(고객으로부터 주문이 들어왔으나 아직 출하되지 않은)는 연말 기준 미화 29억달러에 달하며, 이는 이전분기 대비 두 배에 해당하는 수치다.

델 테크놀로지스의 AI 전략은 AI 기술을 델의 제품 및 솔루션에 탑재하는 'AI-인', 델의 솔루션 위에서 고객들이 AI 워크로드를 잘 구동할 수 있도록 지원하는 'AI-온', 델 내부적으로 기업 운영에 AI를 활용하는 'AI-포(For)', 파트너들과 AI 생태계를 꾸리는 'AI-위드(With)'로 나뉜다.

AI-In 전략은 델이 현재 진행중인 1000개에 가까운 AI·ML 관련 프로젝트에 담겨 있다. 프리미엄 기업용 노트북 '델 래티튜드' 등에 탑재된 델 옵티마이저를 비롯해 AI옵스 소프트웨어인 클라우드IQ 등이 대표적인 기술이다.

AI-On 전략의 중심에는 고성능 AI 서버 '델 파워엣지 XE9680'와 AI 데이터 플랫폼이 되는 '델 파워스케일' 스토리지가 있다. 파워엣지 XE9680은 AI를 위한 8개 GPU 가속기 서버로 엔비디아 H100 텐서 코어, AMD 인스팅트 가속기에 이어 최근 인텔 가우디 3 AI 가속기까지 지원 옵션을 확장했다. '델 파워스케일'은 업계 최초로 엔비디아의 DGX 슈퍼POD(SuperPOD)용 이더넷 기반 스토리지 인증을 마친 제품으로 고속의 데이터 접근을 통해 AI 훈련, 체크포인팅, 추론에 소요되는 시간을 최소화한다. 이와 함께 델은 엔비디아와 협력해 델의 서버, 스토리지, 클라이언트 디바이스, 소프트웨어 및 서비스와 엔비디아의 AI 인프라 및 소프트웨어 팩키지를 결합한 업계 최초의 엔드투엔드 솔루션인 '델 AI 팩토리 위드 엔비디아'도 선보였다.

AI-For 전략의 차원에서 델은 자체 프로세스와 의사 결정을 최적화하고 강화하기 위해 지속적으로 AI를 활용하고 있다. 영업·마케팅 프로세스, 내부 개발자의 생산성, 컨텐츠 및 문서 작성 등의 범위이다. 또 AI-위드 전략을 위해 엔비디아, AMD, 인텔을 비롯해 냉각기술업체, AI옵스, ML옵스, 모델·데이터 세트 큐레이터 및 관련 SW 공급업체 등과 협력 중이다. 팽동현기자 dhp@dt.co.kr