개발 없이 에이전트 연동 가능 흩어졌던 데이터 안정적 연결 커스텀 API 개발 특허 출원도
이승재 KT DS 마이스터가 디지털타임스 인터뷰에서 ‘비스트 AI게이트웨이’ 솔루션에 대해 소개하고 있다. KT DS 제공
이승재 KT DS 마이스터 인터뷰
“세상에 없는 서비스를 만드는 것을 목표로 삼았다. 흩어져있던 데이터들을 간편하고도 안정적으로 연결함으로써 인공지능(AI) 에이전트 활용이 실질적 성과로 이어질 수 있도록 했다.”
이승재 KT DS 마이스터는 최근 개발을 완료하고 시장에 선보인 ‘AI게이트웨이’에 대해 이같이 자부심을 드러냈다. 그는 KT DS 기술혁신단 솔루션개발팀장으로서 이 회사 응용프로그램인터페이스(API) 게이트웨이 솔루션 ‘비스트’에 AI게이트웨이 기능을 더해 업그레이드하는 작업을 주도했다. KT DS는 KT그룹의 IT서비스 전문기업이다.
API게이트웨이 솔루션은 사용자 애플리케이션 등 클라이언트와 백엔드 서비스 간 중개를 맡는 API 관리 도구다. 소프트웨어(SW) 간 통신에 쓰이는 API 호출을 위한 단일 진입점 역할을 하며 이에 대한 관리·분석·보안 기능도 제공한다. 컨테이너 기술이 중심이 되는 클라우드 네이티브 환경에선 각종 마이크로서비스 간 연결도 API 호출로 이뤄지므로 API게이트웨이 수요도 확대되고 있다.
KT DS에 따르면 2022년 출시된 API게이트웨이 비스트는 글로벌 경쟁제품 대비 30% 이상 빠른 데이터 처리 성능과 안정성을 제공해왔다. 대용량 데이터 처리와 커스텀 API 개발 기술 관련 특허도 출원했다. 이 마이스터는 “API게이트웨이 특성을 살려 고객이 원하는 프로토콜과 데이터 형태에 맞게끔 빠르게 개발·배포할 수 있도록 커스터마이징에 특화했다”며 “비용효율성에 있어서도 1.5배 이상 가성비를 지녔다”고 소개했다.
나아가 KT DS는 AI시대를 맞아 애플리케이션들에 접목되고 있는 AI 모델·서비스와의 연결에도 주목했다. AI에이전트가 현업 데이터 기반으로 할루시네이션(환각·왜곡)을 줄이며 실질적 액션을 취할 수 있도록 하는 연결고리를 만들기로 했다.
이 마이스터는 “복합 시나리오에서 사용자 의도를 에이전트로 처리하는 데 있어 여러 독자적인 방식으로 AI 에이전트가 최적의 API를 선정하는 정확도가 60%를 넘기기 어려웠다. 이에 고심하던 차에 지난해 말 등장해 업계 표준으로 자리잡고 있는 모델콘텍스트프로토콜(MCP)로 실마리를 풀 수 있게 됐다”며 “현재는 미션 크리티칼한 업무 처리도 가능한 수준으로 정확도를 확보하게 됐다”고 설명했다.
비스트 AI 게이트웨이를 통해 MCP 기반으로 비즈니스를 자동화한 사례 예시. KT DS 제공
이렇게 탄생한 비스트 AI게이트웨이는 별도 개발 없이도 드래그앤드롭으로 검색증강생성(RAG)는 물론이고 대형언어모델(LLM)과 데이터소스 및 여러 도구과 내부 API·데이터를 AI에이전트에 연결하며 비즈니스 플로우를 자동화할 수 있다.
비스트 AI게이트웨이는 레거시 시스템의 API와 AI모델 간 연동을 간소화한다. 이로써 기존 데이터·기능도 MCP 기반으로 재활용하고 통합 관리할 수 있어 기업 AI전환(AX)을 앞당길 수 있게 해준다. 통합 모니터링 기능을 통해 LLM 호출 트래픽, 토큰 사용량, 비용 발생 현황을 실시간 파악·분석할 수도 있다. 유사하거나 빈번한 프롬프트에 대한 응답을 캐싱하는 방식으로도 비용을 줄여준다.
기업에 필수적인 AI 안전성·보안성 확보도 돕는다. 민감한 데이터에 대해선 게이트웨이 내 격리환경에서 사전에 비식별화하는 등 데이터 처리 파이프라인을 구축할 수 있다. 특정 데이터 패턴을 탐지해 전송을 차단하거나 응답단계에서 민감정보 유출 또는 부적절한 표현을 방지하기 위한 정책을 통합 설정·관리하는 것도 가능하다. 이는 특정 요청에 대한 추가적인 데이터 변환이나 검증 로직에도 적용할 수 있다.
이 마이스터는 “비스트 AI게이트웨이는 공공·금융 등 규제산업군을 포함해 다양한 산업분야에서 AI 거버넌스를 구현하는 데 유용하게 쓰일 수 있을 것”이라며 “KT DS는 AI게이트웨이뿐 아니라 지난해 선보인 생성형AI 에이전트 빌더 ‘아이온유’ 등 다양한 AI 역량을 아우르며 기업고객의 효과적·효율적 AX를 지원하기 위한 통합 AI 오퍼링도 준비하고 있다”고 귀띔했다.
KT DS는 지난해 ‘클라우드와 AI 전문 SW기업’으로 도약을 선언한 이후 금융·공공·유통 등 다양한 산업군으로 AX사업을 확장하고 있다. IT서비스 사업영역을 포함해 전사적인 AI 역량 내재화를 추진하면서 ‘KT DS 2.0’으로 거듭나고 있다.
이 마이스터는 이에 발맞춰 AI게이트웨이를 고도화해나가면서 고객의 혁신을 돕는 방안을 지속적으로 연구·개발할 계획이다. 그는 “AI 트렌드는 나날이 바뀌고 있다. 고객들에 더욱 가치와 혜택를 전달할 수 있는 기술을 앞으로도 민첩하게 발굴·적용해나갈 계획”이라고 덧붙였다.
