SKT, 서울에 엔비디아 GPU 기반 ‘국내 최대 AI 인프라’ 시동

12월 가산 IDC에 ‘H100’ 적용

SK텔레콤이 오는 12월 서울에 엔비디아 그래픽처리장치(GPU) 기반 인공지능(AI) 데이터센터를 연다. SK텔레콤은 이 데이터센터를 시작으로 국내 최대 규모 ‘GPU 팜’(대량의 GPU를 하나로 연결한 컴퓨팅 시스템)을 구축해 AI 인프라 사업을 확장할 계획이다.

SK텔레콤은 21일 글로벌 GPU 클라우드 회사 ‘람다’가 보유한 엔비디아 GPU 자원을 자회사 SK브로드밴드의 가산 데이터센터에 전진 배치한다는 내용의 파트너십을 람다와 체결했다고 21일 밝혔다. 람다는 엔비디아로부터 최신 GPU를 공급받아 AI 클라우드 서비스를 제공하는 회사다.

양사는 12월까지 가산 데이터센터에 엔비디아 GPU ‘H100’을 배치한다. 최신 모델인 ‘H200’ 조기 도입도 추진 중이다. SK텔레콤은 국내 수요 급증에 대응해 GPU를 3년 안에 수천대로 확대하고, 가산 데이터센터를 시작으로 엔비디아 단일 GPU로 구성된 국내 최대 GPU 팜을 조성하는 것이 목표다.

SK브로드밴드는 기존 데이터센터 운영 노하우를 살려 GPU 서버가 안정적으로 작동할 수 있도록 가산 데이터센터 랙당 전력밀도를 국내 최고 수준인 44㎾로 구현할 계획이다. 이는 국내 데이터센터 랙당 평균 전력밀도인 4.8㎾의 약 9배에 달한다.

SK텔레콤은 람다의 GPU 자원을 기반으로 구독형 AI 클라우드 서비스 ‘GPUaaS’도 12월에 함께 출시한다. AI 데이터센터를 새로 만들려면 수년이 걸리지만, 람다와의 협업 덕분에 곧바로 AI 서비스를 제공할 수 있게 된 것이다.

배문규 기자 sobbell@kyunghyang.com