여러 LLM들을 내 마음대로 조합… SK C&C, sLLM 지원 플랫폼 출시

챗GPT나 하이퍼클로바X, 제미나이 등 상용 LLM(거대언어모델) 뿐 아니라 오픈소스 LLM으로 만들어진 다양한 파운데이션 모델(기반모델)을 자유롭게 조합해 sLLM(소형거대언어모델)을 활용할 수 있도록 하는 플랫폼이 출시됐다.

SK C&C는 기업들이 손쉽고 빠르게 맞춤형 sLLM을 구현할 수 있도록 지원하는 플랫폼 '솔루어 LLMOps(엘엘엠옵스)'를 제공한다며 20일 이같이 밝혔다.

sLLM은 LLM에 비해 소형이지만 특정 영역에 특화된 학습이 가능하다. 컴퓨팅 자원도 훨씬 적게 소모해 개발 비용을 줄이고 보안을 강화할 수 있다는 장점이 있다. 이 때문에 기업 전용 AI 서비스를 효율적으로 구축하려는 이들이 sLLM에 주목하고 있다.

SK C&C는 금융, 제조, 통신, 서비스 등 다양한 산업 분야에서 여러 고객들과 함께 수행해 온 생성형 AI 서비스 구축 운영 과정에서 축적한 생성형 AI 파운데이션 모델 적용 방안과 기업 데이터 결합 및 학습 노하우, 기업 맞춤 sLLM 구현 전 과정을 '솔루어 엘엘엠옵스'에 담았다.

'솔루어 엘엘엠옵스'는 오픈AI 챗GPT, 네이버클라우드 하이퍼클로바X와 같은 상용 LLM 뿐만 아니라, 오픈소스 LLM으로 만들어진 다양한 파운데이션 모델도 활용할 수 있다. 기업 AI특성에 맞는 sLLM을 구축하기 위해 필요한 파운데이션 모델을 추천해 주고, 선택·조합·활용하는 과정을 지원한다.

특히 기업 업무에 맞춘 △데이터 수집 및 전처리 △자동 학습데이터 생성 △외부 파운데이션 모델을 활용한 학습 △sLLM 생성 및 테스트 등 과정 전반에 하이퍼오토메이션(초자동화)을 적용, 기업 맞춤 sLLM 구축 과정에서 효율성을 혁신적으로 높이고 비용도 절감시켜 준다는 게 SK C&C의 설명이다.

'솔루어 엘엘엠옵스'는 AI가 오답을 생성하는 할루시네이션(환각) 현상 제거와 sLLM 테스트 기능도 제공한다. 데이터 전처리, 모델 생성, 평가, 활용 각 단계에서 할루시네이션을 처리하는 AI 자동화 도구를 제공해 비전문가도 안심하고 sLLM을 만들 수 있다. '솔루어 엘엘엠옵스' 채팅창에서 간단한 질문으로 완성도 테스트를 수행할 수 있고, 테스트에 필요한 질문도 자동으로 제공한다.

'솔루어 엘엘엠옵스'는 기업 업무 환경에 딱 맞는 빠른 sLLM 모델 생성 및 신뢰도 확보를 위한 사용자 친화적 환경(UI)과 경험(UX)을 제공한다. 사용자는 웹 화면에서 데이터를 선택 후 간편한 드래그 앤 드랍(Drag & Drop) 방식으로 데이터 정제부터 모델 튜닝 및 테스트까지 작업을 반복 수행할 수 있다. 다수 데이터 처리는 물론 다수 파운데이션 모델을 활용한 동시 병렬 학습도 마우스 조작만으로 간단하게 진행할 수 있다.

차지원 SK C&C G.AI그룹장은 "솔루어 엘엘엠옵스에 담긴 주요 기능들은 금융사를 비롯해 SK 관계사 생성형 AI 구축 프로젝트에 적용돼 있다" 며 "이를 시작으로 국내 산업 전반에 걸친 기업 맞춤형 sLLM 확산을 위해 적극 노력하겠다"고 말했다.

황국상 기자 gshwang@mt.co.kr