KT, ‘이음 인사이드’로 ‘모두의 AI’ 구현⋯ “6000만 서비스 접점에 AI 경험 연결”
KT가 과학기술정보통신부가 추진하는 ‘모두의 AI’ 사업을 위해 공공·교육·금융·쇼핑 등 국민이 일상적으로 이용하는 다양한 서비스를 하나의 AI 경험으로 연결하는 대국민 AI 서비스 전략을 공개했다.
KT를 비롯해 업스테이지, 솔트룩스, 다음, 무신사, 직방, EBS, 매스프레소, BC카드 등 국내 대표 AI·서비스 기업 다수가 참여한 컨소시엄(KT컨소시엄)의 핵심 전략은 ‘이음 인사이드’를 통해 다양한 서비스와 산업 전반으로 빠르게 AI를 확산하는 것이다.
이음 인사이드는 국민이 이용하는 다양한 서비스에 AI를 내재화하고, 이를 하나의 범용 AI 에이전트로 연결하는 개방형 AI 생태계다. 이용자는 앱·웹·IPTV 등 접속 채널과 상관없이 하나의 AI 경험을 바탕으로 다양한 서비스를 통합적으로 이용할 수 있다. 새로운 AI 모델과 서비스 기업이 지속적으로 참여할 수 있는 개방형 구조를 적극적으로 활용해 모두의 AI 생태계를 확대해 나갈 방침이다.
KT는 모두의 AI 앱을 대국민 AI 활용의 핵심 플랫폼으로 구축하고, 이음 인사이드 전략을 활용해 종합 검색 포털 ‘다음’ 및 컨소시엄 참여 기업의 다양한 서비스 접점, KT의 지니TV 등에도 모두의 AI 기능을 적용할 계획이다. 이용자는 새로운 앱을 따로 쓰지 않아도 평소 이용하던 서비스 안에서 동일한 AI 경험을 자연스럽게 누릴 수 있다. KT컨소시엄에 참여하는 기업의 서비스 접점은 합산 6000만 이상 규모에 달한다.
범용 서비스 영역에서는 검색 기반 최신 정보 탐색 기능과 복수의 국산 AI 모델을 결합해 정확하고 신뢰도 높은 AI 경험을 제공한다. 특히, 메모리 기반 개인화로 개인의 기존 검색, 문의 내용에 따라 맞춤형 정보 제공이 가능하다. 예를 들어, 직방에 이음 인사이드가 적용되면 “보고 계신 아파트, 실거래가 새로 나왔어요. 이 단지에 나온 매물 11건 중 시세보다 낮은 게 2건 있어요. 어제 실거래보다 5000만원 낮고, 등록된 지 이틀밖에 안 됐어요” 등으로 정보를 전달한다.
공공 영역에서는 단순 질의응답을 넘어 선제적인 알림 제공, 맞춤형 혜택 추천 등 이용자 상황에 맞는 AI 에이전트 서비스를 구현할 예정이다. 공공 알람, 연령·거주지역 등 맞춤 공공혜택, 대화형 절차 안내, 발급·신청 지원까지 이음 앱과 웹 내에서 구동된다.
향후에는 영농, 창업 등 더 많은 영역으로 서비스를 확대하고, 새로운 기업들의 사업 참여를 유도해 국민의 일상을 직접 지원하는 AI 에이전트 서비스로 고도화한다.
이러한 서비스는 KT의 AI 운영 플랫폼 ‘토큰팩토리’를 기반으로 구현된다. 솔라(업스테이지), 모티프(모티프테크놀로지스), 루시아(솔트룩스), 바르코(NC AI), 믿음(KT) 등 다양한 국산 AI 모델과 리벨리온의 NPU, 래블업·베슬AI의 AI 인프라 운영 최적화 기술이 토큰팩토리에서 통합 운영돼 서비스 특성에 맞는 최적의 AI 모델을 자동으로 연결하고 안정적인 AI 서비스를 제공할 수 있다.
토큰팩토리는 사용자가 입력한 프롬프트의 처리와 응답 생성을 분리해 각 단계에 최적화된 자원을 할당함으로써 분당 토큰 처리량(TPM)을 약 31% 향상시킨다. 다양한 프롬프트 압축 기술을 통해 입력 토큰을 최대 80%까지 감소시켜 GPU 활용도를 높이는 장점이 있다.
이진형 KT AX사업본부장(상무)은 “이음 인사이드를 통한 개방형 AI 생태계 조성으로 국민의 일상을 함께하는 것은 물론, 다양한 서비스 접점을 통해 디지털 소외계층까지 포용하는 대국민 AI 서비스를 선보일 것”이라며 “국내 최고 수준의 멀티모델과 KT 역량이 응축된 토큰팩토리를 바탕으로 빠르고, 정확하며, 안정적인 최적의 AI 서비스를 제공하도록 최선을 다하겠다”고 말했다.
박준영 기자 pjy60@viva100.com