인공지능팩토리, 업스테이지와 설치형 LLM 제휴

[이데일리 김현아 기자] 인공지능팩토리(대표 김태영)가 23일 업스테이지와 함께 고도화된 온프레미스(설치형)환경의 대규모 언어 모델(LLM) 구축을 위한 업무협약을 체결했다.

인공지능팩토리의 김태영 대표이사와 업스테이지의 이영규 본부장을 비롯한 양사의 기술 리더들이 참석했다.

양사는 이번 협약을 통해 기업 대상의 생성형 챗봇 공급을 목적으로 오프라인 환경에서 작동하는 시스템 개발에 집중할 계획이다.

특히, 지식기반 챗봇 서비스와 리포트 생성 서비스의 신뢰성을 높이기 위해 검색증강생성(RAG) 성능을 향상시키는 기술 협약을 추진할 예정이다.

RAG(Relevance and Attention Guidance)란 마치 서류보관함에서 내가 모르는 지식을 찾는 것처럼, LLM이 학습한 데이터 외에 외부 데이터를 추가로 탑재하여 답변의 정확도를 높이는 기술이다.

인공지능팩토리는 첫 번째 활동으로 업스테이지가 개발한 사전 학습된 대규모 언어 모델 ‘Solar LLM’을 새로 추가할 예정이다.

이를 통해 문서 구조를 자동으로 이해하고 손쉽게 추출할 수 있는 강력한 응용프로그램인터페이스(API)인 Upstage Layout Analysis 기능을 탑재하게 된다.

인공지능팩토리 김태영 대표는 “현재 자사가 보유한 온프레미스 LLM 운영 플랫폼에 업스테이지의 모델을 추가함으로써 고객에게 최적화된 온프레미스 환경을 제공할 예정”이라고 밝혔다.

인공지능팩토리는 최근 리눅스데이타시스템과의 업무협약을 체결하며 기업 업무 자동화 시스템 분야에서도 박차를 가하고 있다.

김현아 (chaos@edaily.co.kr)