기업이 sLLM 도입을 위해 꼭 준비해야 할 3가지는? 이창수 올거나이즈 대표 “기업용 LLM의 핵심은 경량화와 버티컬”

“기업이 소형 대규모언어모델(sLLM)에 관심을 갖는 이유는 LLM 정도의 좋은 성능을, 기업이 필요로 하는 주요 기능에 대해서 잘 학습시켜 이를 기반으로 여러 가지 업무를 자동화할 수 있기 때문이다.”

이창수 올거나이즈 대표 “기업용 LLM의 핵심은 경량화와 버티컬”

이창수 올거나이즈 대표는 “인공지능(AI) 도입을 고민하는 기업 입장에서 현실적인 투자대비효과(ROI)를 기대할 수 있기 때문에 sLLM 도입이 늘고 있다”면서 sLLM에 대한 관심이 높아지는 이유에 대해 이렇게 밝혔다.

이창수 대표는 27일 역삼동 포스코타워에서 열리는 '기업의 LLM 도입전략 및 사례 세미나'에 앞서 가진 인터뷰에서 기업용 LLM의 핵심과 sLLM 도입 전략에 대해서 소개했다.

이 대표는 “기업용 LLM 의 핵심은 해당 기업이 LLM 을 이용해서 어떤 태스크를 자동화할 것이냐? 거기에 맞추어서 LLM 이 어떤 기능을 갖추어야 하느냐에 있다”고 강조했다. 회사에서 LLM 을 도입해서 얻고자 하는 혜택을 LLM 이 지원할 수 있어야 하기 때문이다. 그는 이를 위해서는 해당 기업의 비즈니스에 특화된 모델, 버티컬(vertical)이 핵심이라고 강조했다.

기업용 LLM의 두 번째 핵심은 경량화이다. 이 대표는 “기업이기 때문에 LLM 을 도입하면서 항상 ROI 를 고민해야 한다”면서 “모델의 학습과 운영에 들어가는 비용이 이를 활용한 LLM 애플리케이션으로 매출 증가, 비용 감소로 얻는 이익보다 작아야 한다”고 말했다. 이 대표는 여러 가지 방법이 있겠으나 모델을 충분히 경량화 시키는 것으로 운영상의 비용을 많이 줄일 수 있다고 설명했다.

이창수 대표는 기업이 sLLM 도입을 위해 전략적으로 준비해야 할 것에 대해서도 설명했다. 첫 번째로 가장 중요한 부분은 sLLM 을 이용해서 어떤 업무를 자동화할 것이고, 이를 통해서 기대하는 효과가 무엇인지를 명확히 하는 부분이다.

두 번째는 쓸만한 sLLM 을 만들기 위해서 실제 기업 내외부의 사용자가 써야 하는 데이터를 준비해서 모델을 잘 트레이닝 하는 것이다. 세 번째는 sLLM 이 완성된 뒤에 사용할 실제 현업에 적용할 수 있는 애플리케이션을 동시에 만들어내는 것이다.

이창수 대표는 “sLLM 은 한 가지의 태스크만 잘 하는 것이 아니고, 여러 개의 태스크를 잘 하기 때문에, 이런 기능들에 기반한 애플리케이션을 만들고, 현업에서 이를 빠르게 적용할 수 있게 하는 프로세스를 갖추는 것이 가장 핵심”이라고 설명했다.

이 대표는 직접 개발한 올거나이즈 LLM에 대해서 소개했다. 올거나이즈 LLM 은 각 도메인의 데이터를 사용하여 도메인의 언어를 이미 이해하고 있는 LLM 이라는 설명이다.

그는 “올거나이즈 LLM은 여러 모델의 관리, 이 모델들을 사용한 애플리케이션을 손쉽게 만들어 낼 수 있는 빌더, 다른 앱들을 사용해 보고 내부 프롬프트를 확인해 볼 수 있는 앱 마켓을 모두 갖추고 있다”면서 “도입 첫날부터 현업에 바로 적용해서 ROI 를 극대화할 수 있다”고 말했다.

한편 이창수 대표는 27일 '기업용 LLM 도입 전략 및 사례 세미나'에서 금융 도메인 sLLM을 만들면서 겪었던 여러 시행착오와 베스트 프랙티스를 공유할 예정이다. 다양한 기업용 LLM 구축 전략과 야놀자, 무신사 등의 LLM 도입 사례가 발표되는 이번 행사에 대한 자세한 정보는 세미나 홈페이지 (https://conference.etnews.com/conf_info.html?uid=279)를 통해 확인할 수 있다.

전자신문인터넷 유은정 기자 judy6956@etnews.com