LGU+"AI로 영업활동·상품관리 혁신… AWS 쓰니 메타·코히어도 OK""

LG유플러스, 활용사례 공유
생성형AI 앱 개발·확장 유리

강병래 LG유플러스 PM이 13일 AWS코리아가 개최한 생성형AI 미디어브리핑 행사에서 발표하고 있다. AWS 제공

"'아마존 베드록' 서비스를 이용함으로써 간편하게 여러 인공지능(AI) 모델을 테스트하고 각각의 장점을 취해 적용할 수 있었습니다."

강병래 LG유플러스 프로젝트매니저(PM)는 13일 아마존웹서비스(AWS)코리아가 서울 역삼동 사무실에서 진행한 미디어브리핑에서 생성형AI 활용사례를 공유하며 이같이 밝혔다.

AWS '아마존 베드록'은 단일 응용프로그램인터페이스(API)를 통해 다양한 기반모델(FM)을 이용하며 생성형AI 애플리케이션을 개발·확장할 수 있도록 지원하는 클라우드 서비스다.

LGU+는 이를 활용해 자사 영업전산시스템 '유큐브'에 생성형AI를 도입했다. 고객·상품 관리를 위해 50개 이상 마이크로서비스와 2만개 이상 API가 쓰이는 통합시스템이다.

이 프로젝트를 주도한 강 PM은 "보안 이슈로 인해 인터넷을 쓸 수 없고 개발자 500여 명이 서비스 중인 환경이었다. 생성형AI를 활용해 보고자 폐쇄망과 '옥타' 인증을 구성하고 '아마존 베드록'을 연동, 빠르게 개념검증(PoC) 환경을 구축했다"고 소개했다.

LGU+는 '아마존 베드록'을 통해 개발자 코드·보안 리뷰, 테이블·API 탐색·활용, 상품안내·임직원용 챗봇 등에 생성형AI를 활용하고 있다.

여러 모델을 테스트하고 원하는 답변이 얼마나 나왔는지 비교해보며 업무별 적합한 모델을 적용했다. "모델마다 잘하는 게 달라서 다양하게 쓰는데, 이걸 일일이 알아보고 연동하긴 쉽지 않았을 것"이라며 "'아마존 베드록' 덕분에 하나의 API 연동만으로 모델들을 바꿔가며 동시에 테스트할 수 있었다"고 강 PM은 설명했다.

그는 "코드 리뷰나 생성 기능을 포함해 매우 만족스럽다. 토큰 비용도 훨씬 저렴하다"며 "일단 '유큐브' 개발은 끝났지만 추가적인 유지보수나 간단한 과제들이 계속 생기는 만큼 '아마존 베드록'을 계속 이용할 계획"이라고 덧붙였다.

AWS는 '아마존 베드록'을 통해 자사 '타이탄' 모델뿐 아니라 메타, 앤스로픽, 코히어, 미스트랄AI, 스태빌리티AI, AI21랩스 등의 다양한 언어모델을 단일 API로 이용할 수 있도록 지원한다. 모델 커스터마이징, 검색증강생성(RAG) 적용, 에이전트 구축 등도 지원한다.

최근에는 지식 기반을 위한 확장된 데이터 커넥터 기능을 새롭게 발표하고, 유해 콘텐츠 차단과 할루시네이션(환각·왜곡) 저감을 위해 가드레일 기능도 추가로 확대했다.

김선수 AWS코리아 AI·ML사업개발 수석 스페셜리스트는 "고객들이 생성형AI 모델에 대한 관심 수준을 넘어 실제 활용을 위한 기능을 요구하는 가운데, AWS가 지난 18개월 동안 선보인 AI·ML 기능 수는 주요 경쟁사들을 합친 것보다도 두 배 이상 많다"며 "AWS는 데이터·AI를 위한 풀스택뿐 아니라 '아마존 베드록'으로 다양한 수요를 충족시킬 수 있다는 점에서 호평 받고 있다. 이는 생성형AI 앱 구축·확장을 위한 가장 쉬운 방법"이라고 강조했다.

팽동현기자 dhp@dt.co.kr