“기업의 LLM 도입, 경쟁우위 달성 위한 필수조건” 최홍준 업스테이지 부사장 “도메인 특화 프라이빗 LLM 구축이 대안”

“기업들은 이제 대규모언어모델(LLM)을 도입할지 망설이기보다는, 어떤 LLM을 필요에 맞게 도입해 경쟁우위를 달성할 것인가를 고민할 때다.”

최홍준 업스테이지 부사장은 27일 역삼 포스코타워에서 열리는 '기업의 LLM 도입 전략 및 사례' 세미나에 앞서 가진 인터뷰에서 “생성형 AI 도입을 통한 디지털 체질 개선은 이제 대세를 넘어 필수로 자리잡는 추세”라면서 LLM 도입 필요성에 대해 이렇게 밝혔다.

최홍준 부사장은 빅4 컨설팅 회사에서 카카오뱅크 설립 등 금융 디지털과 IT사업, 네이버 AI 파트너십을 총괄했으며, 지금은 업스테이지에서 고객 성공 파트너(Customer success partner)를 맡고 있는 금융과 IT 분야 전문가이다.

최홍준 부사장은 “생성형 AI를 자체 개발하기 위해서는 전문인력 확보를 위한 막대한 투자 비용이 필요하고, 외부 AI 기술 도입을 고려할 때도 데이터 보안 문제와 할루시네이션 등을 염두해둬야 하는 것이 큰 장애물”이라고 말했다. 이는 생성형 AI 기반이 되는 LLM을 구축하는데 신중을 기할 수 밖에 없는 이유이며, 이 때문에 도메인 특화 프라이빗 LLM을 구축하는 것이 좋은 대안이 될 수 있다는 것이 최 부사장의 설명이다.

그는 “업스테이지는 프라이빗 LLM을 온프레미스, 서비스로서의 소프트웨어(SaaS) 등 기업에서 요구하는 구현방식을 모두 지원이 가능하고, 지속적인 LLM 기반 모델 고도화와 특화 모델을 통해 기존 공급받은 기업에는 서비스 고도화를 지원할 계획”이라고 말했다.

최 부사장은 최근 기업들이 퍼블릭 LLM보다 프라이빗 LLM에 대해 더 관심을 갖고 있다고 LLM 트렌드에 대해서도 소개했다.

오픈AI, 구글 등 빅테크가 주도하는 퍼블릭 LLM은 생성형 AI 대중화를 이끌며 초기 시장을 선점했지만 외부 클라우드 사용으로 데이터 유출 리스크와, 잘못된 정보를 생성하는 환각 현상(할루시네이션) 등의 문제점이 불거졌다는 것이다. 이에 따라 대항마로 프라이빗 LLM이 등장했고 최근 기업용 시장을 파고 들고 있다고 최 부사장은 진단했다.

프라이빗 LLM은 기업의 내부 데이터만 활용해 보안성을 높이고 거짓 정보를 생성하는 환각 현상(할루시네이션) 방지에 최적화된 모델이다. 여기에 상대적으로 작은 모델 사이즈로 비용 측면에서도 각광받으며 차세대 생성형 AI 시장 대세론을 타고 있다는 것이다.

최 부사장은 프라이빗 LLM의 핵심으로 보안성을 들었다. 기업 서버에 설치하는 구축형 '온프레미스'(on-premises) 방식이나 전용 프라이빗 클라우드로 도입, 기업의 민감 데이터가 유출될 가능성을 전면 차단한다는 것. 이를 통해 기업들은 LLM 도입의 최대 허들인 데이터 및 민감 정보 유출을 방지할 수 있다.

또한, 프라이빗 LLM은 생성형 AI의 고질적인 문제이자 현재 LLM의 최대 한계점으로 꼽히는 할루시네이션 방지에 특화된 모델이다. 프라이빗 LLM은 범용 모델과 달리 기업 내부 데이터로 학습 대상을 제한한다. 그만큼 거짓 정보를 생성할 가능성이 낮아져 사용성을 향상시킨다는 것이 최 부사장의 설명이다. 또한 작은 사이즈로도 비용 대비 효과를 극대화한다는 장점도 부각되고 있다.

한편 최홍준 부사장은 27일 '기업용 LLM 도입 전략 및 사례 세미나'에서 오픈소스 LLM 생태계와 금융분야 LLM 활용사례에 대해서 발표할 예정이다. 다양한 기업용 LLM 구축 전략과 야놀자, 무신사 등의 LLM 도입 사례가 발표되는 이번 행사에 대한 자세한 정보는 세미나 홈페이지 (https://conference.etnews.com/conf_info.html?uid=279)를 통해 확인할 수 있다.

전자신문인터넷 유은정 기자 judy6956@etnews.com