LG CNS, 1110억개 파라미터 갖춘 추론형 LLM 개발

글로벌 AI 기업 ‘코히어’와 공동 개발
23개 언어 지원…모델 압축 기술 특징

LG CNS 사옥 [LG CNS 제공]

[헤럴드경제=박세정 기자] LG CNS는 글로벌 인공지능(AI) 기업 ‘코히어(Cohere)’와 손잡고 1110억개의 파라미터를 갖춘 추론형 대규모언어모델(LLM)을 공동 개발했다고 10일 밝혔다.

LG CNS는 지난 5월 코히어와 70억개의 파라미터로 구성된 한국어 특화 경량 모델을 출시한 지 두 달 만에 초대형 모델을 연이어 발표했다.

양사의 LLM은 한국어·영어·일본어·중국어를 비롯해 히브리어·페르시아어 등 소수 언어까지 총 23개 언어를 지원한다. 이 중 한국어 평가 테스트에서는 온프레미스 방식의 LLM 중 현존 최고 수준의 성능(SOTA)을 내는 것으로 나타났다고 회사 측은 설명했다.

실제 한국어 평가 테스트인 ▷KMMLU ▷KO-IFEval에서 글로벌 LLM 대비 최고점을 달성했다. 파라미터 규모가 2배 이상 많은 Qwen3보다도 우수한 성능을 기록했다.

한국어와 영어에서 우수한 추론 능력도 확인됐다. 자체 테스트 결과, 추론 능력 검증 대표 벤치마크 테스트인 ▷Math500과 ▷AIME 2024 영역에서 한국어, 영어 모두 GPT-4o, GPT4.1, 클로드 3.7 소넷 등 글로벌 LLM보다 높은 점수를 기록했다.

이번에 선보인 LLM은 모델 압축 기술을 통해 2장의 그래픽처리장치(GPU)만으로 구동이 가능하다는 점도 특징이다. 통상 파라미터 1000억개 이상의 LLM에는 최소 4장의 GPU가 필요한 것으로 알려졌다.

현신균 LG CNS 사장. [LG CNS 제공]

LG CNS는 이번 LLM 개발을 위해 코히어의 기업용 LLM인 ‘커맨드(Command)’ 모델에 LG CNS의 AI 기술력을 결합했다. 코히어의 커맨드 모델은 이미 캐나다 최대은행 RBC(Royal Bank of Canada) 등에서 온프레미스와 클라우드 방식으로 사용되고 있다.

LG CNS는 LLM을 온프레미스 방식으로 제공해 고객사들이 민감한 데이터의 외부 유출 없이도 자체 인프라 내에서 안전하게 처리할 수 있도록 할 계획이다. 아울러 최적화된 LLM을 효율적인 비용으로 확보해 데이터와 인프라 주권을 확보하는 ‘소버린 AI’를 실현하는데 힘을 싣는다는 방침이다.

이번 LLM까지 개발되면서 LG CNS의 LLM ‘라인업’도 강화됐다. LG CNS는 초대형·경량형 2종의 LLM과 LG AI 연구원의 ‘엑사원(EXAONE)’ 등의 LLM을 갖추게 됐다. 고객 맞춤형 에이전틱 AI 서비스를 만들 수 있는 기반을 마련했다는 평가다. 에이전틱 AI는 AI가 스스로 판단, 추론해 복잡한 작업을 수행하는 차세대 AI다.

김태훈 LG CNS AI클라우드사업부장 전무는 “차별화된 AI 역량과 경쟁력을 바탕으로 고객의 비즈니스에 특화된 에이전틱 AI 서비스를 제공하고, 고객의 AX를 선도하는 최고의 파트너로 자리매김할 것”이라고 밝혔다.