SK C&C, 기업 스스로 sLLM 구현 돕는 '솔루어 LLMOps' 플랫폼 공개

SK C&C가 기업들이 경량 거대언어모델(sLLM)을 쉽고 빠르게 구현하도록 지원하는 '솔루어 LLMOps' 플랫폼을 제공한다. [사진=SK C&C 제공]

SK C&C가 기업 스스로 경량 거대언어모델(sLLM)을 쉽고 빠르게 구현하도록 지원하는 '솔루어 LLMOps' 플랫폼을 공개했다.

SK C&C는 금융, 제조, 통신, 서비스 등 다양한 산업 분야에서 생성형 AI 서비스 구축 운영을 해온 경험을 토대로 △생성형 인공지능(AI) 파운데이션 모델 적용 방안 △기업 데이터 결합 △학습 노하우 △기업 맞춤 sLLM 구현 전 과정을 솔루어 LLMOps에 담았다고 밝혔다.

sLLM은 오픈AI GPT, 구글 제미나이, 네이버 하이퍼클로바X 등 거대언어모델(LLM)에 비해 소형이지만 특정 영역에 특화된 학습이 가능하다. 컴퓨팅 자원을 훨씬 적게 소모해 개발 비용을 줄이고 보안을 강화할 수 있어 기업 전용 AI 서비스를 효율적으로 구축할 수 있다.

솔루어 LLMOps는 상용 LLM뿐만 아니라 오픈소스 LLM을 조합하고 활용할 수 있도록 지원한다. 기업 특성에 맞는 sLLM 구축을 위한 파운데이션 모델을 추천하고, 조합·활용하는 과정을 지원한다.

기업 업무에 맞춘 △데이터 수집 및 전처리 △자동 학습데이터 생성 △외부 파운데이션 모델을 활용한 학습 △sLLM 생성 및 테스트 등 과정 전반에 하이퍼오토메이션을 적용해 효율성을 높이고 비용 절감에 도움을 준다.

솔루어 LLMOps는 기업이 보유한 데이터 수집과 동시에 비정형 데이터를 전처리해 학습용 데이터로 자동 생성한다. 이후 선택된 외부 생성형 AI 파운데이션 모델을 활용, 빠르게 학습을 진행하고 기업 업무 목적에 맞는 sLLM을 완성한다.

이외에도 환각을 처리하는 AI 자동화 도구와 sLLM 테스트 기능을 제공, sLLM 신뢰성을 높인다. 사용자는 웹 화면에서 데이터 선택 후 드래그 앤 드롭 방식으로 데이터 정제부터 모델 튜닝, 테스트까지 작업을 손쉽게 반복 수행할 수 있다.

다수 데이터 처리는 물론 다수 파운데이션 모델을 활용한 동시 병렬 학습도 마우스 조작만으로 간단하게 진행할 수 있다. 이를 통해 실무자가 본인 업무에 맞춰 필요한 sLLM을 손쉽게 만들고 다양한 업무에 활용할 수 있다.

차지원 SK C&C G.AI그룹장은 “솔루어 LLMOps에 담긴 주요 기능들은 금융사를 비롯해 SK 관계사 생성형 AI 구축 프로젝트에 적용돼 있다”며 “이를 시작으로 국내 산업 전반에 걸친 기업 맞춤형 sLLM 확산을 위해 적극 노력하겠다”고 말했다.

현대인 기자 modernman@etnews.com