[DX 넘어 AX 빅뱅] AI MSP, 설계부터 구축까지 맞춤지원

SW·보안·클라우드 기업 모두 "AI가 미래"
메가존클라우드 '젠AI360' 출시
답변 품질 향상 위해 AWS 협력

메가존클라우드와 AWS가 지난 3월 인터컨티넨탈 서울 코엑스에서 생성형AI 도입 로드맵 세미나를 개최하고 있다. 메가존클라우드 제공

메가존클라우드가 클라우드에 이어 AI(인공지능)도 MSP(관리형서비스제공사)로 자리 잡는다는 전략을 수립하고 선제적인 시장 수요 공략에 나서고 있다. 기업의 비즈니스와 데이터 등 환경을 고려한 AI 운영 전략을 제시하고, 지속적인 검증과 개선을 통해 AI시스템의 정확성을 높일 수 있도록 지원한다.

메가존클라우드가 지난해 9월 출시한 '젠(Gen)AI360'은 생성형AI를 도입하고자 하는 기업들을 위해 설계부터 구축 및 운영까지 지원하는 맞춤형 엔드투엔드 서비스다. △기업 생성형AI 활용 전략 수립 및 파일럿 과제 수행 등 컨설팅 △기업별 환경을 고려한 최적 플랫폼 선정과 데이터 학습 및 검증 △기업 내 활용 대상 서비스 개발 및 가이드 제공 △생성형AI 운영 전략 수립 및 서비스 운영 등으로 구성된다.

메가존클라우드는 '젠AI360' 출시에 앞서 9주간 사내 HR 헬프데스크에 접수된 질의응답을 한국어 특화 LLM(대규모언어모델)에 학습시키고, 관련 문서와 사내 가이드 등에 RAG(검색증강생성)를 적용하는 프로젝트를 수행한 바 있다. '아마존 세이지메이커'와 '아마존 켄드라' 등 다양한 AWS(아마존웹서비스) 클라우드 서비스 기반으로 구성하고, 비용 효율적 아키텍처 및 답변 품질 향상 등을 위해 AWS와의 기술협력도 강화했다.

그 결과, 첫 질문에 대한 답변 정확도는 평균 75% 이상, 이후 질문수정과 추가질문을 통해 90% 이상으로 향상된 것으로 평가됐다. 이후 RLHF(인간피드백 기반 강화학습)로 답변 품질을 높이는 고도화 작업도 진행했다. 이 과정에서 리소스 비용 최적화, 고유 데이터 적용, 프롬프트 엔지니어링, 할루시네이션(환각·왜곡) 현상 등 기업의 생성형AI 도입·구축 시 고려사항과 해결방안 관련 노하우를 축적, '젠AI360' 오퍼링으로 내놨다는 게 회사의 설명이다.

메가존클라우드는 '젠AI360' 기반으로 한솔제지의 사내 AI영업일지 시스템도 성공적으로 구축했다. 한솔제지가 10년 동안 축적해온 영업일지에 적용, 정형화되지 않은 메모에 대해서도 자연어로 명령을 입력하면 AI가 분석해 인사이트를 추출할 수 있게 했다. 지난 연말부터 한 달여 간 한솔제지 현업부서 영업일지를 RAG용으로 리모델링하고, 프롬프트 엔지니어링을 통해 주요 질문에 대해 신뢰할 수 있는 답변을 생성할 수 있게 했다.

이로써 담당자가 인사발령이나 업무변경으로 새 고객을 맡을 경우에도 주요 업무 히스토리와 진행경과 등을 빠르게 파악할 수 있게 했다. 또 매일 수십 건씩 추가되는 영업일지 모든 내용에 대해 AI분석으로 답을 얻을 수 있도록 했다. 지난 1월 이 파일럿 프로젝트를 마무리하고, 기술 고도화를 거쳐 한솔제지 전사 임직원을 대상으로 확대하는 방안을 추진하고 있다. 인사, 물류·재고, 공급망(SCM) 등 내부 데이터와 외부 데이터 간 연계를 통한 서비스 활용 범위 확대를 꾀한다.

한편 메가존클라우드는 지난해 연결기준 매출 1조4265억원으로 2년 연속 1조원대 매출을 달성했다. 전년 대비 12.7% 성장한 수치로, 해외 MSP사업에서만 44% 증가한 650억원의 매출을 올렸다. 회사는 주관사 선정을 거쳐 올 하반기부터 본격적인 IPO(기업공개) 준비에 돌입할 계획이다.팽동현기자 dhp@dt.co.kr