SK C&C, 클라우드 제약 없이 LLM 활용 가능한 'AI 랜딩존 서비스' 제공

[사진= SK C&C 제공]

SK C&C가 기업이 보유한 클라우드 환경에 맞춰 빠르고 편리하게 생성형 인공지능(AI)을 연동하고 AI 서비스 전개를 지원하는 'AI 랜딩존 서비스'를 제공한다.

AI 랜딩존 서비스는 클라우드 자원을 안전하게 배포하고 관리하는 플랫폼인 랜딩존에서 코드형 인프라(IaC)를 기반으로 생성형 AI 모델을 쉽고 빠르게 생성·관리할 수 있는 AI 특화 클라우드 관리 서비스다.

물리적인 하드웨어 구성이나 인터페이스 도구 없이 프로그래밍 코드로 인프라를 구성하고 관리하는 IaC를 생성형 AI 서비스 개발·운용에 적극 활용할 수 있다.

SK C&C는 금융·제조 등 주요 산업 고객들과 함께 진행한 여러 엔터프라이즈 AI 개발 사업에서 AI 랜딩존 서비스 우수성과 실효성을 확인했다.

AI 랜딩존을 도입한 결과, 생성형 AI 서비스 구축 기간이 30% 이상 단축됐고 운영 비용은 10% 이상 절감된 것으로 나타났다.

AI 랜딩존 서비스는 아마존웹서비스(AWS), 마이크로소프트(MS) 애저, 구글 클라우드 등 어떤 클라우드를 사용하든 다양한 거대언어모델(LLM)을 빠르게 연계하고 활용할 수 있다는 게 강점이다.

상용 LLM뿐만 아니라 오픈 LLM도 활용할 수 있는 응용프로그래밍인터페이스(API)를 기본 제공한다. 고객은 다양한 LLM을 손쉽게 호출하고 활용할 수 있다.

SK C&C는 생성형 AI 서비스 규모에 따라 △베이직 AI 랜딩존 △스탠다드 AI 랜딩존 △엔터프라이즈 AI 랜딩존을 제공한다.

베이직 AI 랜딩존은 AI 서비스를 시범 도입하려는 고객에 적합하다. 일부 특정 업무에 국한된 AI 서비스를 구현하고 테스트하는데 유용하다.

스탠다드 AI 랜딩존은 검색증강생성(RAG) 기술을 탑재했다. LLM과 기업 내부 지식 베이스를 연계, 좀 더 정확하고 신뢰 가능한 답변을 생성하도록 설계했다. 기업 데이터 기반 AI 챗봇, AI 사내 지식 검색 서비스 등을 손쉽게 만들 수 있다.

엔터프라이즈 AI 랜딩존은 대규모 AI 서비스를 기획하는 고객에 적합하다. 머신러닝(ML)·딥러닝(DL) 기술 지원은 물론, 머신러닝 운용(MLOps), 거대언어모델 운용(LLMOps) 서비스도 제공한다. 여러 클라우드 네이티브 시스템과 연계해 다양한 ML·DL 서비스와 생성형 AI 서비스를 고객 디지털 IT 체계에 맞춰 통합 관리·운영할 수 있다.

AI 랜딩존에는 정보보호관리체계인증(ISMS) 가이드를 준수한 보안 표준 정책을 적용했다.

SK C&C는 고객 클라우드와 연계한 생성형 AI 종합 컨설팅 서비스도 제공한다.

이지선 SK C&C 클라우드 플랫폼 그룹장은 “고객이 필요로 하는 AI 서비스 규모에 맞춰 언제든 빠르고 완벽한 AI 랜딩존을 제공할 것”이라면서 “고객이 엔터프라이즈 AI 혁신을 지속하도록 지원할 것”이라고 밝혔다.

류태웅 기자 bigheroryu@etnews.com