델 테크놀로지스 “AI 구축방식 기업마다 달라…미래는 AI 팩토리”

한국 델 테크놀로지스
김경진 총괄사장 인터뷰
델 테크놀로지스 “AI 혁신 선도”
AI 팩토리는 최적화된 AI 인프라
온프레미스 데이터센터 구축 강화
“AI 워크로드를 위한 완벽한 솔루션”

한국 델 테크놀로지스 김경진 총괄사장 <사진=한국 델 테크놀로지스>

“AI 구현 방식에 있어 모든 상황에 맞는 단일 접근 방식은 없습니다.” 농부가 농작물을 직접 키우는데는 한계가 있다. 하지만 농작물을 키우는 데 필요한 모든 장비와 기술을 제공받는다면, 스스로 농장을 운영할 수 있다. 델은 고객사가 직접 AI 비즈니스를 운영할 수 있도록 AI 팩토리를 제공하고 있다.

델 테크놀로지스가 말한 AI 시장 기회

한국 델 테크놀로지스 김경진 총괄사장은 매일경제신문과 인터뷰에서 AI 시장의 기회를 극대화하기 위해 델 테크놀로지스가 취하는 전략과 접근 방식을 이같이 설명했다. 델 테크놀로지스는 △ AI 작업에 필요한 대규모 데이터 처리 능력을 제공하는 ‘고성능 GPU(그래픽처리장치) 서버’ △ 여러 컴퓨터 시스템을 연결하는 네트워크로 데이터 전송 속도를 높여 AI 처리 속도를 빠르게 해주는 ‘고속 AI 패브릭’ △ AI 연산에 필요한 데이터를 빠르게 저장하고 읽어올 수 있는 저장 장치인 ‘고속 AI 스토리지’ △ AI 알고리즘을 훈련하고 데이터를 분석하는 데 필요한 소프트웨어와 도구를 결합하는 데 주력하고 있다. 이를 통해 정보와 데이터를 지식으로 전환하는 데 주력한다는 것이 델 테크놀로지스의 구상이다.

김경진 총괄사장은 “이를 통해 이전에는 없던 새로운 지식을 창출하고, 이는 모든 것을 변화시킬 수 있는 원동력이 될 것”이라고 강조했다. 오늘날 델 테크놀로지스는 고객사들이 데이터 성능, 서비스 비용, 보안 등 모든 측면을 직접 제어할 수 있는 AI 팩토리(AI Factory)를 구축할 수 있도록 지원하고 있다. 이는 마치 농부가 농작물을 키우는 데 필요한 모든 장비와 기술을 제공받아 스스로 농장을 운영할 수 있게 되는 것처럼, 델의 고객들도 데이터와 AI를 잘 관리할 수 있게 되는 셈이다.

온프레미스 방식 AI 데이터센터 구축

엔비디아의 H100 텐서코어 GPU 가속기를 8개 탑재한 “델 파워엣지 XE9680” 서버

델 테크놀로지스가 이처럼 AI 팩토리를 앞세우는 까닭은 따로 있다. 김경진 총괄사장은 “AI 구현 방식에 있어 모든 상황에 맞는 단일 접근 방식은 없다”고 설명했다. AI는 디바이스, 엣지(edge·데이터를 중앙 데이터센터나 클라우드가 아닌, 데이터가 생성되는 현장 근처에서 처리하는 방식), 데이터센터, 하이퍼스케일 클라우드(hyperscale cloud·매우 대규모의 클라우드 컴퓨팅 환경) 등 다양한 방식으로 구현될 수 있어서다. 김 총괄사장은 “대규모 언어 모델에 대한 추론은 온프레미스(on-premise·소프트웨어, 하드웨어 등을 외부의 클라우드 서비스가 아닌 회사 내부의 서버나 컴퓨터에 설치하여 운영하는 방식) 데이터센터에서 수행하는 것이 효율적”이라면서 “온프레미스에 AI 인프라를 구축하는 것이 자체 데이터와 지식재산권을 안전하게 보호하는 방법”이라고 말했다.

실제로 전체 데이터의 83%는 온프레미스에 있으며 이 가운데 50%는 엣지에서 생성된다는 점을 지적했다. 김경진 총괄사장은 “네트워크가 100% 연결되지 않은 환경에서도 엣지 디바이스가 로컬에서 소형 트레이닝, 분석, AI 쿼리(질문) 등을 통해 실시간 추론 데이터를 제공할 수 있다”고 강조했다.

델 AI 팩토리는 미래형 데이터센터

델 AI 팩토리 개념도

델 테크놀로지스의 ‘AI 팩토리’라는 개념은 엔비디아의 젠슨 황 CEO가 처음 제시한 것으로 알려졌다.델 테크놀로지스는 엔비디아와의 협력을 통해 가장 먼저 ‘AI 팩토리’라는 이름으로 비전을 제시했다. AI 팩토리는 말 그대로 ‘AI 공장’으로, 처음부터 AI를 고려해 구축되고 설계된 미래형 데이터센터를 가리킨다. 델 AI 팩토리는 AI 워크로드(AI workload·인공지능 시스템이 수행하는 작업이나 처리해야 할 일의 양)를 위한 제품과 서비스, 그리고 파트너사의 솔루션을 포괄하는 엔드투엔드 포트폴리오(end-to-end portfolio·시작부터 끝까지 모든 과정을 포함하는 전체적인 제품 및 서비스 모음)를 제공한다. 여기에는 AI 학습 및 추론을 구동하는 서버, 데이터를 저장하는 스토리지, 네트워크 장치, 델의 컨설팅 서비스, AI 구축 관련 서비스 등이다. 또 엔비디아, 인텔, AMD와 같은 파트너사의 다양한 프레임워크와 툴 등도 함께 포함된다. 이러한 포트폴리오는 클라우드, 온프레미스 데이터센터, AI PC, 엣지 환경 모두에 적용될 수 있다는 것이 델의 설명이다. 델 테크놀로지스는 이러한 전략을 통해 AI 시장에서의 입지를 강화하고 있으며, 고객들에게 최적화된 AI 솔루션을 제공하기 위해 지속해서 노력하고 있다. 김경진 총괄사장은 “AI 팩토리를 통해 AI 도입에 소요되는 기간과 비용을 획기적으로 줄일 수 있다”고 설명했다.

이를 통해 고객사는 생산성을 극대화할 수 있다. 예를 들어 델 테크놀로지스의 AI 팩토리를 사용해 제품 수요를 예측하고 품질 관리를 할 수 있는 ‘AI QC’ 시스템이 대표적이다. 김경진 총괄사장은 “사업장에서 불량품을 검수하는 AI 시스템을 통해 생산성을 향상할 수 있다”면서 “고객사는 수십만 개의 사례를 판정하는 추론 엔진을 학습시켜, AI PC에 탑재할 수 있다”고 덧붙였다.

델 테크놀로지스, AI 서버 출하량 100% 증가

AI 를 지원하는 워크스테이션. 델 프리시전(Precision) 워크스테이션을 활용하면 AI를 PC에서 온디바이스 형태로 구동할 수 있다.

이러한 AI 전략은 델 테크놀로지스의 성장으로도 이어지고 있다. 델 테크놀로지스는 2025년 회계연도 1분기 동안 AI 최적화 서버(AI-optimized servers) 매출이 26억 달러로 늘어났다고 밝혔다. 이 기간에 AI 최적화 서버의 출하량은 이전 분기 대비 100% 이상 증가했다. 또 1분기가 마무리될 때 AI 최적화 서버 분야의 백로그(이미 주문받았지만 아직 완료되지 않은 작업이나 주문의 가치)는 약 38억 달러에 달했다.

델 테크놀로지스는 AI 가속기 분야에서 엔비디아뿐만 아니라 AMD 인텔의 GPU 가속기를 탑재한 서버 모델을 이미 출시하거나 발표했다. 델은 메타(Meta), 허깅페이스(Hugging Face), 스타버스트(Starburst), 레드햇(RedHat) 등과 협력을 강화하고 있기도 하다. 온프레미스, 클라우드, 엣지 등 다양한 위치 및 방식에 걸쳐 광범위한 생태계를 구성하고 있다.

김경진 총괄사장은 “AI 사이클을 잘 활용하면 기업의 생산성과 경쟁력을 비약적으로 향상할 수 있다“고 설명했다. 그러면서 그는 ”대기업과 중견기업을 대상으로 AI 팩토리를 사용할 수 있도록 최선을 다할 것“이라며 ”이를 토대로 중소기업과 개인 사업자를 위한 AI 에코시스템을 구축할 것“이라고 말했다. 그는 ”AI는 한국 기업의 생산성과 경쟁력을 비약적으로 향상할 수 있는 도구“라며 ”AI 팩토리를 통해 더 많은 기업이 AI의 혜택을 누릴 수 있도록 노력할 것“이라고 다짐했다.

He is...

김경진 총괄사장 <사진=한국 델 테크놀로지스>

김경진 총괄사장은 한국 정보기술(IT) 1세대 창업가이기도 하다. 1990년대 초반, 자본 없이 엔지니어 셋이서 창업을 시작했다. 이들은 대기업에 필요한 커뮤니케이션 네트워크 솔루션을 개발하기로 했다. 당시 IBM 3270 프로토콜을 이용해 지점 컴퓨터를 본사 컴퓨터에 연결하는 네트워크를 구축했다. 이 솔루션은 고가의 IBM 단말기 대신, 비용을 5분의 1로 줄인 자체 개발 단말기를 사용하여 성능을 유지하면서 비용을 절감했다. 이에 따라 보험사 등 대기업에 솔루션을 제공하며 성공적인 사업을 이끌었다. 바로 인성정보다.

또 김경진 총괄사장은 컴퓨터 그래픽 라이브러리 관련 창업을 하기도 했다. B2B(기업간기업) 그래픽 라이브러리를 개발해 삼성, 현대, LG 등 대기업에 판매했다. 이후 그는 미국으로 넘어가 실리콘그래픽스(SGI)에 몸을 담았다. CPU 디자인과 시뮬레이션, 매뉴팩처링 테스트 등을 담당하는 엔지니어였다. 당시 실리콘그래픽스는 쥬라기 공원 같은 컴퓨터그래픽(CG) 영화 솔루션으로 ‘핫’한 기업이었다. 하지만 EMC에 ‘러브콜’을 받고 스토리지 분야로 이동했다. 델 테크놀로지스는 2016년 EMC를 인수했다. 인수 금액은 약 670억 달러에 달했다. 이 인수는 IT 산업 역사상 가장 큰 규모의 거래 중 하나로, 델이 데이터 스토리지, 클라우드 컴퓨팅, 보안 솔루션 분야에서의 입지를 강화하는 중요한 계기가 됐다. 김경진 총괄사장은 2019년 5월부터 한국 델 테크놀로지스를 이끌고 있다.