[AI픽] LGU+, AWS 손잡고 AI 운영 자동화 플랫폼 구축

온프레미스·클라우드 연계로 전주기 연결

[LG유플러스 제공. 재판매 및 DB 금지]

(서울=연합뉴스) 박형빈 기자 = LG유플러스는 아마존웹서비스(AWS)가 주최한 '2026 모던 에이전틱 애플리케이션 데이'에서 생성형 인공지능(AI) 서비스의 안정적 운영을 위한 플랫폼 구축 사례를 공개했다고 10일 밝혔다.

LG유플러스는 생성형 AI와 에이전트 기술을 활용한 인프라 운영 자동화를 주제로 열린 이번 행사에서 기존 온프레미스(사내구축형) 중심의 AI 개발 환경을 클라우드와 연계한 하이브리드 구조로 전환한 경험을 공유했다.

이를 통해 AI 개발부터 서비스 운영까지 전 과정을 유기적으로 연결하고, 품질과 운영 안정성을 동시에 확보하는 기반을 마련했다고 설명했다.

핵심은 AI 모델의 개발과 운영 사이에서 발생하던 단절을 해소한 데 있다.

기존에는 모델 학습과 평가, 배포, 운영이 분리돼 반복 작업이 발생했지만, 이를 하나의 파이프라인으로 통합해 효율성을 높였다. 데이터 수집부터 서비스 적용까지 전 과정을 일관된 환경에서 처리할 수 있도록 설계한 것이 특징이다.

인프라 측면에서는 AWS의 관리형 쿠버네티스(애플리케이션을 관리, 배포, 확장할 수 있는 오픈 소스 플랫폼) 서비스인 '아마존 EKS'를 기반으로 하이브리드 아키텍처를 구축했다. 이를 통해 인프라 관리보다 서비스 품질 개선에 집중할 수 있는 환경을 확보했다.

GPU 자원 활용 방식도 개선했다. 기존의 장비 단위 고정 할당 방식에서 벗어나 수요에 따라 유연하게 자원을 배분하는 구조를 도입해 유휴 시간을 최소화하고 활용 효율을 높였다.

LG유플러스는 "이번 플랫폼 구축 과정에서 AI를 단순한 기술이 아니라 실제 서비스 관점에서 안정적으로 운영할 수 있는 구조와 기준을 설계하는 데 주력했다"며 "플랫폼이 인프라와 자원 관리 부담을 줄여주면서 AI 서비스를 더 빠르게 제공하고, 품질과 운영 안정성을 지속해 높일 수 있는 기반을 갖추게 됐다"고 설명했다.

binzz@yna.co.kr

▶제보는 카톡 okjebo