AI 서버 구축 전 성능 검증...기업들 투자 판단 쉬워져

수십 억원 드는 AI 서버 구축
시뮬레이션으로 성능 미리 검증

대형 인공지능(AI) 서버나 데이터센터를 구축하기 전에 성능을 미리 검증할 수 있는 시뮬레이션 기술이 개발됐다. [사진=픽사베이]

고가의 인공지능(AI) 반도체로 서버를 구축하기 전에 미리 성능을 검증할 수 있는 시뮬레이션 기술이 개발됐다. 앞으로는 대형 데이터센터나 서버를 구축하기 전에 미리 성능을 파악하고 효과적인 사업 계획을 세울 수 있게 됐다.

박종세 KAIST 전산학부 교수는 실제 대규모 AI 서버를 구축하기 전에 컴퓨터 안에서 성능과 효율을 검증할 수 있는 ‘가상 AI 실험장’을 개발했다고 29일 밝혔다.

연구진이 개발한 ‘LLMServingSim 2.0’은 다양한 하드웨어와 소프트웨어 조합을 가상으로 분석할 수 있는 시뮬레이션 플랫폼이다. AI 서버 하나를 구축하려면 수많은 하드웨어와 소프트웨어가 필요하다.

스타트업의 경우, 고가의 그래픽처리장치(GPU)가 4장 이상 필요하고, 필요한 소프트웨어도 5가지 이상이다. 만약 챗GPT처럼 대형 서비스를 제공하기 위해서는 필요한 비용이 기하급수적으로 늘어난다.

문제는 지금까지 구축할 AI 서버의 성능을 미리 검증할 방법이 사실상 없었다는 점이다. 투자 대비 성능을 파악할 방법이 없어, 기업들은 일종의 ‘깜깜이 상태’에서 투자를 결심해야 했다.

이번에 개발된 ‘가상 AI 실험장’은 구축할 AI 서버의 성능을 시뮬레이션을 통해 알려준다. 개발자들은 해당 플랫폼에서 자유롭게 서버 인프라를 설계하고 실험할 수 있다.

기존에 유사한 시뮬레이터들은 단순한 메모리 모델만 검증하는 수준이었다. 반면 이번 시스템은 GPU는 물론, 차세대 AI 반도체인 신경망처리장치(NPU), 프로세싱 인 메모리(PIM) 등 다양한 하드웨어를 한 번에 검증할 수 있다.

실험 결과, 시뮬레이션 결과는 실제 성능과 약 1% 정도의 오차를 보일 정도로 정확한 것으로 나타났다. 실제 AI 서버 성능을 거의 그대로 재현해, 기업들은 확실한 견적을 바탕으로 투자를 단행할 수 있게 됐다.

시스템은 특정 반도체를 적용하면 서비스 속도가 얼마나 향상되는지, 전력 소모가 얼마나 줄어드는지, 대형 서버가 안정적으로 동작하는지 등을 분석해 알려준다. 차세대 AI 서버나 데이터센터를 설계할 때 유용하게 활용될 수 있다.

이에 대형언어모델(LLM) 서비스 기업과 AI 반도체 스타트업 등이 차세대 인프라를 설계하고 최적화하는 데 폭넓게 활용될 것으로 기대된다. 개발 비용과 시간도 크게 줄어들 전망이다.

박 교수는 “AI 서비스 경쟁력은 모델 자체뿐 아니라 이를 안정적이고 효율적으로 운영하는 인프라 기술에서 결정된다”며 “이번 시뮬레이터가 연구자와 산업계가 AI 인프라를 더욱 빠르고 효율적으로 개발하는 데 중요한 기반이 되길 기대한다”고 했다.