기업 맞춤형 생성AI 구축 및 관리 올인원 플랫폼 '젠AI360'

[솔루션 가이드] 메가존클라우드 '젠AI360'으로 기업 생성AI 도입과 활용 '엔드 투 엔드 지원'

최근 AI 기술이 다양한 산업에 걸쳐 빠르게 확산됨에 따라, 기업의 데이터 활용 전략은 고도화가 필요해졌다. 특히 생성AI는 데이터 분석, 예측 및 콘텐츠 생성에서 인간의 창의력을 보조하는 강력한 도구로 주목받고 있다. 그러나 효과적인 AI 도입을 위해서는 방대한 데이터를 효율적으로 관리하고, 적절한 훈련 모델 및 결과 해석, 안전한 데이터 보호 등이 요구된다.

이러한 배경 속에서 클라우드 선도기업 메가존클라우드는 최근 기업 맞춤형 생성AI 엔드투엔드 서비스 젠AI360(GenAI360)의 신규 버전 '젠AI3600 v2'를 출시했다.

메가존클라우드의 젠AI360 플랫폼

생성AI 통합 관리 플랫폼 추가로 도입과 운영 간편

젠AI360 v2는 기업들이 생성AI를 쉽고 효율적으로 도입·운영할 수 있도록 개선됐다. 신속한 생성AI 도입을 위한 맞춤형 컨설팅과 구축 프로세스 간소화, 손쉬운 품질 관리 체계와 운영 전략 수립, 최적화된 리소스 관리를 통해 운영 효율성을 크게 높였다.

특히, 이번 업그레이드에 새로 추가된 젠AI360 플랫폼은 기업의 고유 데이터를 통해 생성AI 서비스를 사용하고 관리할 수 있도록 지원하는 생성AI 통합 관리 솔루션이다. 기업이 요구하는 생성AI 구축을 위한 올인원 플랫폼으로, 사용자 및 관리자가 통합된 사용 환경에서 각자의 업무 수요에 따라 생성AI를 활용할 수 있도록 설계됐다.

메가존클라우드의 젠AI360 플랫폼의 구조

이 플랫폼을 통해 사용자는 기업 맞춤형 생성AI를 사용하고, 운영관리자는 프로그래밍 지식 없이도 생성AI 서비스를 설정하고 최적화할 수 있다. 젠AI360 플랫폼은 기업 내에서 사용하는 ERP(전사적 자원 관리), DW(데이터 웨어하우스) 등의 테이블 기반 정형 데이터는 물론 워드, PPT, PDF 등의 문서에 있는 데이터에서도 신뢰할 수 있는 답변을 제공한다.

내부 데이터 기반 답변과 함께 웹 검색 기반의 답변 제공도 가능하다. 기업 내 관련 데이터가 없거나 내부 데이터로 답변이 어려운 질문의 경우, 웹 검색을 수행해 방대한 인터넷 정보를 분석하고 핵심 내용을 요약해 답변한다. 특히 모든 답변에는 참고한 웹 페이지의 출처가 함께 표시되며, 사용자는 출처 클릭 시 원문 전체를 직접 확인할 수 있어 정보의 신뢰성과 투명성을 보장한다.

검색증강생성 기능으로 신뢰성 향상

'젠AI360 플랫폼'은 'RAG(Retrieval-Augmented Generation·검색증강생성) Manager' 기능도 제공해 사용자들이 생성AI의 답변 신뢰성을 높이는 데 도움을 준다. RAG는 LLM(대형 언어 모델)의 출력을 최적화해 응답을 생성하기 전에 학습 데이터와 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 하는 프로세스다. 이 기능을 통해 운영관리자는 생성AI가 제공하는 답변의 기반 데이터를 관리하고, 문서 전처리 과정 등을 자동으로 수행할 수 있다.

또한, 문서 유형별 최적화된 답변을 추출할 수 있는 옵션도 제공하며, 검색 알고리듬과 LLM 설정값을 조정해 AI의 답변 정확도와 스타일을 최적화할 수 있다. 예를 들어, 문서 분석에 사용될 AI 모델을 직접 선택할 수 있고, 도표나 이미지가 포함된 문서는 이미지 인식 방식을 별도로 설정할 수 있다. PDF나 워드 문서의 경우 목차나 페이지 단위로 내용을 분석할지, 또는 유사한 내용끼리 묶어서 분석하는 등 문서의 특성과 구조에 맞게 다양한 분석 옵션을 제공해 기업이 보유한 데이터로부터 더욱 정확하고 의미 있는 정보를 추출할 수 있도록 지원한다.

데이터 통합 및 관리의 효율성

운영관리자는 생성AI 기능 제어와 관리를 직관적인 대시보드를 통해 수행할 수 있다. 복잡한 코딩 작업 없이도 드롭다운 메뉴와 슬라이더 방식의 설정 도구를 활용해 손쉽게 조정할 수 있는 것이다. 다양한 설정값 변경을 실시간으로 테스트할 수 있으며 자동으로 생성되는 평가 데이터셋을 통해 검색 정확도와 답변 품질을 즉시 확인할 수 있어 기업에 가장 적합한 설정을 빠르고 효율적으로 찾아낼 수 있다.

젠AI360 플랫폼은 효율적인 데이터 보안과 관리도 지원한다. 시스템 관리 기능을 통해 운영관리자는 데이터 접근 권한을 손쉽게 설정할 수 있으며, 사용자 그룹에 따라 접근 권한을 세분화해 기업 내 데이터 거버넌스를 강화하고 보안 문제 발생을 차단할 수 있다.

이외에도 젠AI360 플랫폼에서는 기업 실무자들이 AI 역량을 강화할 수 있는 교육 프로그램인 '젠AI360 Training'도 선보인다. 이 교육 프로그램은 생성AI와 데이터 분석 전반에 대한 세션을 제공하며, 실습 과정을 통해 실무에서 바로 활용 가능한 핵심 기술을 습득할 수 있도록 구성됐다.

유은정 기자 judy6956@etnews.com