공공 `LLM` 시장 활성화, 결국 예산·인력에 달렸다

네이버클라우드 '뉴로클라우드'. 네이버 홈페이지 캡처

정부·공공부문 생성형 AI(인공지능) 수요를 겨냥한 국산 LLM(대규모언어모델)의 등장이 이어지고 있다. 공공 LLM 시장에 대한 기대가 커지는 가운데, 시장 활성화의 열쇠는 결국 예산과 전문인력에 달린 것으로 보인다.

4일 업계에 따르면 국내 LLM 기업들은 보안성과 편의성을 앞세워 B2B뿐 아니라 B2G 시장을 주요 타깃으로 삼고 있다. GPU(그래픽처리장치) 등 HW(하드웨어)에 자사 LLM과 SW(소프트웨어)를 결합한 어플라이언스 제품도 선보이고 있다.

네이버클라우드는 API(응용프로그램 인터페이스)를 통해 초거대AI '하이퍼클로바X'를 고객 내부 데이터로 튜닝할 수 있는 '클로바 스튜디오'뿐 아니라 사내 LLM 구축을 위한 '뉴로클라우드 포 하이퍼클로바X' 출시도 앞두고 있다. 하이브리드 클라우드 '뉴로클라우드'를 고객 데이터센터에 설치하고 GPU 클러스터를 결합, AI모델과 학습·운영도구를 패키지로 제공한다. 폐쇄된 사내망으로 구성돼 보안요건을 충족하며, 완전관리형 서비스로 운영·관리 부담도 덜어준다.

솔트룩스도 LLM 어플라이언스 공급에 나섰다. 이 회사의 LLM '루시아'는 뉴로-심볼릭 기법과 지식그래프 기반 그라운딩 및 RAG(검색증강생성) 등을 통해 할루시네이션을 줄이는 데 초점을 맞췄다. 파라미터 규모 70억·130억·200억·500억개의 4종으로 제공되며, 연내에 토큰 1조개 수준의 1000억개 파라미터를 지닌 모델도 추가 예정이다. 회사는 내년 매출에 대해 절반 이상이 LLM 기반 발생, 전년보다 30~40% 증가할 것으로 기대한다.

CSP(클라우드서비스제공사)인 KT클라우드와 카카오엔터프라이즈도 디지털플랫폼정부의 민간 클라우드 이용 확산에 발맞춰 공공 LLM 시장의 문을 두드릴 것으로 보인다. 이들 모두 초거대AI 출시를 앞두고 있다.

KT는 '믿음'을 이달 하순께, 카카오는 '코(Ko)GPT 2.0'을 연내 선보일 예정이다. 이밖에도 SK텔레콤이 투자한 코난테크놀로지가 한국어 토큰 학습량이 강점인 '코난LLM'을 구축형으로 제공하고 올거나이즈, 포티투마루 등 AI 스타트업도 자체 sLLM(경량화LLM)으로 공공기관 맞춤형 수요 공략을 꾀한다.

공공부문의 AI 수요도 LLM에 초점이 맞춰진다. 지난달 소프트웨어정책연구소(SPRi)가 공개한 '공공부문 AI 활용현황 실태조사' 보고서에 따르면 AI 기술을 도입했거나 도입 예정인 295개 공공기관들은 활용하고 있거나 활용할 AI기술(복수응답)로 '언어지능'(48.8%)과 '학습 및 추론, 지식표현'(42.4%)을 가장 많이 꼽았다.

이들은 챗봇이나 업무 자동화, 내부 데이터 분석 같은 기타 공공서비스(20.3%), 보건의료(8.5%), 일반행정(6.4%), 에너지·환경(5.4%), 기상·재난안전(4.4%) 등 공공서비스에 AI를 활용 중이거나 활용할 예정인 것으로 조사됐다. 내부업무의 경우에는 고객관리(53.1%)에 대한 수요가 가장 높았고 조직관리(28.3%), 기타 조직 내부 업무에서 활용(12.0%), 업무환경(6.6%) 순으로 많았다.

다만 이 또한 예산이 뒷받침돼야 가능할 것으로 보인다. AI 도입의 장애요인에 대해 전체 295개 기관 중 136개 기관(46.1%)이 '예산 부족'을 꼽았다. 지난달 정부가 '대한민국 초거대 인공지능 도약 방안'을 발표하며 전 국민 AI 일상화를 위해 내년 9090억원의 예산을 투입한다고 밝혔지만, 행정·공공 혁신 서비스 100개 개발과 공공·중소 등 300개 기관·기업 활용 등을 목표하는 과기정통부의 '초거대 AI기반 서비스 개발 지원'사업(110억원)을 제외하곤 9090억원 중 얼마나 공공 LLM 관련해 투입될지는 미지수다. LLM과 크게 관련 없어 보이는 내용도 상당수 포함됐기 때문이다.

공공부문의 AI 관련 인적 역량 또한 주요 걸림돌 중 하나다. AI 도입 장애요인으로 '예산 부족'에 이어 '역량 갖춘 신규인력 채용 어려움'(42.4%), '기존 직원의 역량 부족'(30.5%) 순으로 많은 응답을 기록했다. 흔히 예상되는 어려움 중 하나인 '내부 가용 데이터 부족'(24.4%)보다도 많았다. 필요한 정책 1순위에 대해서도 기관들은 'AI 인력양성'(33.6%)을 가장 많이 꼽았고, 다음으로 '데이터 개방 등 AI 인프라 구축'(25.1%), '규제개선 및 규율체계 정립'(11.9%) 등 순으로 나타났다.

한 AI기업 대표는 "공공 LLM 시장은 올해보다 내년이 5배가량 커질 것으로 전망한다. 그럼에도 내년 수천억원 규모까지 예상되는 민간시장과 달리 수백억원 규모에 그칠 것으로 보인다"며 "한정된 예산을 효율적으로 활용하기 위해 여러 기관의 공통 LLM이나 민관 협력을 통한 비용절감 방안 모색을 모색하고, 구독형 모델 도입 체계 마련을 진지하게 고민할 때 "라고 밝혔다.팽동현기자 dhp@dt.co.kr