토종기업 `모레` 엔비디아 독주 막는 AI 인프라 내놓는다

AI 라이브러리·컴파일러 풀스택 솔루션 제공...GPU 품귀 '돌파구'
MoAI 플랫폼으로 병렬화 처리 기법 사용..모델 개발 효율 향상

조강원 모레 대표가 지난 5월 2일 서울 강남 그랜드 인티컨티넨탈 서울에서 열린 kt 클라우드 서밋에서 회사를 소개하고 있다. 모레 제공

인공지능(AI) 인프라 솔루션 기업 모레는 AI 반도체 시장 점유율 90% 이상을 차지한 엔비디아에 도전장을 내민 토종 스타트업으로 거대언어모델(LLM) 개발을 위한 AI 인프라 소프트웨어를 비롯한 기업용 AI 클라우드 솔루션을 개발 중이다.

모레 솔루션은 주요 AI 서비스를 개발, 운영하는 데 있어 엔비디아에 대한 의존도를 획기적으로 낮출 수 있다. 업계에 따르면 엔비디아가 시장을 독점할 수 있던 건 압도적인 GPU 성능 외에도 개발 환경의 영향이 크다. AI 서비스와 솔루션은 대부분 엔비디아의 SW 프로그래밍 플랫폼 '쿠다'(CUDA)를 기반으로 개발되고 있다.

모레는 AI라이브러리와 컴파일러를 포함해 엔비디아의 쿠다가 제공하는 것과 동일한 풀스택 솔루션을 제공, 다양한 모델들을 코드 변경없이 엔비디아 GPU가 아닌 다른 GPU나 AI프로세서들에서도 그대로 사용할 수 있다. 엔비디아 GPU 품귀 현상으로 인한 어려움을 해소할 수 있는 돌파구라고 회사 측은 설명했다.

아울러 최고 수준의 LLM을 빠르게 개발하기 위해서는 무엇보다 효율적인 모델 학습 방법을 확보하는 것이 중요한데 모레가 자체 개발한 'MoAI' 플랫폼은 고도의 병렬화 처리 기법을 통해 대규모 AI 모델을 효율적으로 개발하고 학습할 수 있도록 돕는다.

이와함께 대규모 AI 클러스터의 비용 최적화에도 해결책을 제공한다. 독자적인 GPU 가상화 기법으로 데이터센터들은 더 적은 비용과 더 적은 수의 엔지니어로도 수천, 수만장의 AI서버를 운영할 수 있다.

조강원 모레 대표는 "초거대 AI시대를 맞아 전체 AI 기술 스택에서 인프라, 특히 인프라 SW의 역할이 본질적으로 바뀌고 있다. 계산 자원을 잘 활용하는 것이 초거대 AI의 품질을 좌우하는 핵심 요소"라며 "컴퓨팅 인프라를 키우고 활용하는 능력을 개발해 수백, 수천 개의 GPU를 동시에 잘 활용하는 것이 중요하다"고 설명했다.

모레가 기술력을 바탕으로 올해 초 자체 개발한 LLM은 세계 최대 머신러닝 플랫폼 허깅페이스가 운영하는 '오픈 LLM 리더보드' 평가에서 77.29점이라는 높은 점수로 1위를 기록한 바 있다. 1위를 기록한 '모모(MoMo)-70B'는 700억개의 파라미터(매개변수)를 가진 LLM으로 모델 개발 착수부터 1위까지 3개월 만에 이뤄냈는데, AI 플랫폼 'MoAI'의 기술력이 뒷받침되며 가능했다.

모레의 솔루션은 AMD 인스팅트(Instinct) GPU와 함께 KT의 AI 클라우드 서비스에서 '하이퍼스케일 AI컴퓨팅'(HAC)이라는 상품명으로 상용 서비스 중이다.

2021년 말부터 현재까지 100곳이 넘는 고객들이 모레 플랫폼 기반의 HAC를 사용하고 있으며 KT LLM '믿음'의 인프라 소프트웨어로 모레 SW가 사용되고 있다. AMD 인스팅트 GPU와 모레의 소프트웨어가 결합된 AI서버는 성능에 있어서도 엔비디아의 GPU서버와 대등한 성능을 실현하고 있다.

2020년 9월 설립된 모레는 조강원 대표를 비롯한 핵심 구성원이 토종 슈퍼컴퓨터 '천둥'을 개발한 서울대 매니코어프로그래밍연구단 출신들이다. 지난해 10월에는 KT, AMD 등으로부터 2200만 달러 규모의 시리즈B 라운드 투자를 받아 화제가 되기도 했다.김영욱기자 wook95@dt.co.kr