고가장비 대체 '가상 AI 실험장' 주목…KAIST서 연구

박종세 교수팀, 오픈소스 공개…"차세대 AI 인프라 개발 가속 기대"

국제학회에서 최우수 논문상을 받은 KAIST 박종세 교수 연구팀 왼쪽부터 박종세 교수, 조재홍 석사과정생, 최현민 석사과정생, 브랜던 리건 뉴욕대 교수(ISPASS 2026 프로그램 위원장) [KAIST 제공. 재판매 및 DB 금지]

(대전=연합뉴스) 이재림 기자 = 한국과학기술원(KAIST) 박종세 전산학부 교수 연구팀은 대규모 인공지능(AI) 서버 구축 전 미리 시스템 성능과 효율을 검증할 수 있는 '가상 AI 실험장'을 만들었다고 29일 밝혔다.

국제학회 'ISPASS 2026'(IEEE International Symposium on Performance Analysis of Systems and Software)에서 최우수 논문상을 받은 이번 연구 핵심은 복잡한 AI 서비스 환경에서 다양한 하드웨어와 소프트웨어 조합을 가상으로 분석할 수 있는 플랫폼을 구현할 수 있다는 점이다.

'LLMServingSim 2.0'이라고 명명한 이 프로그램을 이용하면 연구자와 개발자들은 값비싼 대규모 서버 인프라를 직접 구축하지 않고도 다양한 설계안을 자유롭게 실험하고 성능을 검토할 수 있다고 연구팀은 소개했다.

해당 기술은 기존 그래픽처리장치 중심 환경을 넘어 차세대 AI 반도체로 주목받는 '신경망처리장치'(NPU·Neural Processing Unit)와 '프로세싱 인 메모리'(PIM·Processing-In-Memory) 등 다양한 환경을 지원한다는 점에서도 학계의 주목을 받고 있다고 KAIST는 강조했다.

아직 상용화하지 않은 미래형 AI 반도체를 가상의 데이터센터 환경에서 미리 시험할 수 있기 때문에, 특정 반도체를 적용했을 때 서비스 속도가 얼마나 향상되는지, 전력 소모는 얼마나 줄어드는지, 수만 대 규모의 서버 환경에서도 안정적으로 동작하는지 등을 재현하고 분석할 수 있다는 설명이다.

연구진은 거대언어모델(LLM·Large Language Model) 서비스 기업과 AI 반도체 스타트업 등에서 해당 기술 실용화를 타진할 수 있도록 오픈소스 링크(https://llmservingsim.ai/)도 공개했다.

박종세 교수는 "AI 서비스 경쟁력은 모델 자체뿐 아니라 이를 안정적이고 효율적으로 운영하는 인프라 기술에서 결정된다"며 "연구자와 산업계가 차세대 AI 인프라를 더욱 빠르고 효율적으로 개발하는 데 중요한 기반이 되길 기대한다"고 말했다.

전산학부 조재홍 석사과정 학생과 최현민 석사과정 학생(공동 1저자) 주도로 이뤄진 이번 연구는 과학기술정보통신부, 정보통신기획평가원, 한국전자통신연구원(ETRI), SK하이닉스의 지원을 받아 수행됐다.

walden@yna.co.kr

▶제보는 카톡 okjebo