이비소프트, 기업 AI '도입' 넘어 '실행' 강조… 오케스트레이터 플랫폼 청사진 공개

'AX & 하이퍼오토메이션 코리아 2026-Spring'서 키노트 발표… AI 모델·에이전트·스킬·기업 시스템 통합 전략 제시

전자신문인터넷이 4월 17일 서울 서초구 엘타워 6층 그레이스홀에서 개최한 국내 최대 업무 자동화 콘퍼런스인 'AX & 하이퍼오토메이션 코리아 2026-Spring'에서 이비소프트가 '기업 AI, 도입을 넘어 실행으로 - AI Agent와 오케스트레이터가 바꾸는 업무 혁신'을 주제로 기업 AI의 실행 인프라 전략을 제시했다. 이날 발표는 성원상 이비소프트 대표가 맡았으며, 발표 도중 티머니 이충훈 CIO가 실제 적용 사례를 공유, 현장의 관심을 더했다.

4월 17일 개최된 'AX & 하이퍼오토메이션 코리아 2026-Spring'에서 이비소프트 성원상 대표가 발표하고 있다.

성 대표는 최근 기업들의 AI 도입이 빠르게 확산하고 있지만, 그만큼 보안 위협과 거버넌스 과제도 함께 커지고 있다고 짚었다. 기업 AI 도입률 상승과 함께 취약 인스턴스 노출, AI 관련 보안 취약점 증가가 동시에 나타나고 있으며, 국내에서는 2026년 1월 시행된 AI기본법에 대응할 전사적 거버넌스 체계가 더 이상 미룰 수 없는 과제가 됐다는 것이다. 발표에서는 전사 거버넌스 구축, 에이전트 ID 및 권한 제어, 감사 로그 기록과 모니터링, 파편화된 AI 자산을 묶는 통합 관리 플랫폼 구축, 책임감 있는 AI 프레임워크 정립 등이 우선 과제로 제시됐다.

이날 발표의 중심 개념은 '기업형 AI 오케스트레이터'였다. 성 대표는 이를 다중 AI 모델과 에이전트, 각종 도구를 단일 제어면에서 조정·통합해 업무 프로세스를 자동화·자율화하는 엔터프라이즈 플랫폼으로 규정했다. 단순한 챗봇이나 개별 AI 도구를 넘어, 복잡한 워크플로를 AI 에이전트 협업으로 실행하고 사용자 승인과 피드백까지 통합해 신뢰성을 확보하는 구조라는 설명이다. 워크플로 설계와 실행, 멀티 에이전트 협업, 데이터·권한 관리, 관측성과 최적화를 하나의 플랫폼 안에서 다루겠다는 것이 핵심 메시지였다.

오케스트레이션 엔진의 역할도 비중 있게 다뤄졌다. 이비소프트가 제시한 구조에서는 Workflow Orchestrator, LLM Runtime, Approval Gate가 중심에서 실행을 조율하고, 그 주변에 Skill/Tool Registry, 커스텀 C# 에이전트 등록 체계, RAG와 벡터DB, Knowledge Graph, HITL 기반 피드백 구조가 결합된다. 여기에 API Gateway와 ERP, CRM, ITSM, 그룹웨어 같은 기업 시스템 커넥터를 얹어 실제 업무 흐름까지 연결하는 방식이다. 성 대표는 온프레미스 완전 지원과 C# SDK 확장성도 함께 제시하며, 데이터 주권과 기업 맞춤형 확장 요구를 동시에 수용할 수 있다고 강조했다.

작동 방식은 5단계 엔드투엔드 실행 흐름으로 정리됐다. 사용자가 채팅 UI에서 요청을 입력하면 세션 컨텍스트가 생성되고, 게이트웨이를 통해 시스템으로 전달된다. 이후 의도 라우팅 단계에서 요청 목적과 유형을 분석해 적절한 스킬 또는 워크플로를 고른 뒤, 오케스트레이션 코어가 LLM과 내부 로직을 결합해 실제 처리를 수행한다. 다음 단계에서는 내부 API, 데이터베이스, 그룹웨어, 메일, 티켓 시스템 등과 연동해 결과를 업무로 실행하고, 마지막으로 전체 실행 과정을 감사 로그와 평가 체계에 저장해 품질 개선과 학습 데이터로 활용하는 구조를 제시했다. 성 대표는 이 흐름을 통해 AI가 답변만 생성하는 수준을 넘어 실제 업무를 수행하는 단계로 들어갈 수 있다고 봤다.

성원상 대표는 특히 '데이터 의존성 검사'와 'RAG 판단' 계층을 차별화 포인트로 제시했다. 사용자의 자연어 입력이 일반적인 질문인지, 사내 보안 데이터나 실시간 로그처럼 내부 지식이 필요한 질문인지를 먼저 가려야 한다는 것이다. 예컨대 특정 승인 API나 프로젝트 현황처럼 사내 자산과 시점 의존성이 강한 질문은 RAG가 필요하고, 일반적인 기술 설명은 일반 응답으로 처리하는 구조다. 성 대표는 이런 분기 로직이 있어야 AI가 불필요한 내부 데이터에 접근하지 않으면서도 필요한 경우에는 근거 기반 응답을 낼 수 있다고 강조했다.

이어 LLM에 최적화된 형태로 데이터를 가공하는 '팩 생성' 계층도 소개됐다. 이 단계에서는 실시간 로그, 에러 발생 시각, HTTP 상태 코드 같은 현상 데이터와 SOP, 런북, 설정 정보 같은 지식 데이터를 함께 확보한 뒤, 이를 단순 텍스트 나열이 아니라 LLM이 이해하기 쉬운 구조화 객체로 패키징한다. 직접 증거, 보조 지식, 과거 유사 장애 이력까지 묶어 일종의 '증거 팩'을 만드는 방식이다. 성 대표는 이런 과정이 있어야 AI가 그럴듯한 설명이 아니라 근거 기반의 실행 가능한 응답을 내놓을 수 있다고 짚었다.

검색된 근거를 실제 업무 결과 형태로 바꾸는 '스킬' 계층도 발표의 중요한 부분이었다. 장애 데이터를 보고 형식으로 정리하는 IncidentSummarySkill, 운영 담당자 메일 초안 규약을 적용하는 OpsMailDraftSkill, 테스트 결과를 고객 친화적 문장으로 바꾸는 TestResultNarrationSkill 등이 예시로 제시됐다. 성 대표는 AI의 핵심 경쟁력이 모델 자체보다도, 기업 내부 데이터와 업무 형식을 연결하는 스킬 설계에 있다고 설명했다. 결국 AI가 찾은 근거를 사람이 바로 활용할 수 있는 운영 메일, 장애 요약, 테스트 리포트로 전환하는 것이 실무형 오케스트레이션의 가치라는 것이다.

기술 스택과 인프라 요구사항도 비교적 구체적으로 제시됐다. 플랫폼 코어는 .NET 10, PostgreSQL·MySQL, vLLM·Open LLMs, Hangfire, Web Socket, EF Core 등을 기반으로 구성되며, SAP·Oracle 계열 ERP, 그룹웨어 API, ServiceNow, Teams, Slack과의 호환성을 지원하는 구조다. 배포 환경은 AWS, Azure, 온프레미스를 모두 지원하고, 애플리케이션 서버·DB 서버·GPU 서버별 권장 사양도 함께 제시했다. 이는 이비소프트가 이 플랫폼을 개념 소개 수준이 아니라 실제 엔터프라이즈 도입 전제로 설계하고 있음을 보여주는 대목이다.

운영자 관점의 관리 기능도 강조됐다. 실시간 대시보드에서는 KPI, 요청 추이, 오류, 승인 대기 현황을 한 화면에서 모니터링할 수 있도록 했고, Prompt & Skill Manager에서는 프롬프트·버전·모델 할당 상태와 에이전트별 운영 상태를 관리할 수 있도록 했다. Context & Harness Engineering 영역에서는 워크플로 단계별 payload와 response, 최종 답변 비교, latency와 action step을 분석해 AI가 정보를 어떻게 해석했고 어느 단계에서 성능 병목이 생겼는지 추적할 수 있게 했다. LLM Provider Registry, 문서 관리, RAG 파이프라인 진단, Agent Radar 같은 기능도 함께 제시하며, 개별 AI 자산이 아니라 운영 가능한 플랫폼으로서의 완성도를 부각했다.

사용 목적별 채팅 모드도 세 갈래로 구분했다. 일반 질의응답과 업무 보조를 위한 'General Chat', 개발 생산성 향상에 초점을 둔 'Code+', 그리고 자사 테스트 공정관리 솔루션과 연동해 요구사항·결함·테스트 데이터를 조회하는 'DefectMATE'가 그것이다. 성 대표는 특히 DefectMATE를 단순 생성형 AI가 아니라 실제 업무 데이터를 기반으로 동작하는 '업무 연동형 AI'로 소개했다. 범용 질의응답, 개발 지원, 테스트·운영 연동을 분리해 설계한 점은 기업 내 다양한 사용자 층을 염두에 둔 접근으로 읽힌다.

커스텀 에이전트 개발 방식도 함께 제시됐다. 이비소프트는 친숙한 C#과 .NET 생태계를 활용해 강력한 에이전트 로직을 구현할 수 있고, 복잡한 AI 연동을 단순화한 SDK, CRUD 기반 유연한 관리, Git 기반 버전 관리, 원클릭 빌드·배포 자동화를 지원한다고 설명했다. 성 대표는 일반 인하우스 개발과 비교해 도입 기간을 3~6개월에서 2~4주로 줄이고, 비용은 기존 대비 70% 절감하며, 플랫폼 기반 자동 업데이트와 검증된 프레임워크, 24시간 전문가 지원 체계를 제공할 수 있다고 강조했다.

4월 17일 개최된 'AX & 하이퍼오토메이션 코리아 2026-Spring'에서 티머니 이충훈 CIO가 발표하고 있다.

발표 도중 소개된 티머니 사례는 이비소프트 플랫폼이 실제 현업 문제에 어떻게 적용될 수 있는지를 보여주는 장면이었다. 티머니 이충훈 CIO는 택시 단말 품질분석 업무가 기존에는 엑셀 기반 수작업, 운영DB 직접 접속, 개별 담당자 숙련도 의존 구조에 묶여 있어 분석 편차와 반복 업무 부담이 컸다고 밝혔다. 이에 따라 데이터 자동 수집과 전처리, 웹 기반 시각화, 자연어 질의, Rule·ML·LLM 기반 분석 검증을 결합한 파일럿을 진행했고, 수작업 중심 품질분석 체계를 데이터 기반 운영 구조로 전환하는 방향을 검증했다고 설명했다.

티머니는 2025년 9월부터 2026년 1월까지 약 5개월간 파일럿을 수행하며 데이터 파이프라인, 웹 시각화, AI 학습·추론 엔진, LLM 에이전트 서비스를 묶은 통합 아키텍처를 구현했다고 밝혔다. 그 결과 자동 데이터 수집, 분석 시각화 및 표준화, 자연어 질의와 AI 분석 검증, 데이터 추출·다운로드·메일링 자동화 기반을 확보했고, 기존 수작업 대비 분석 리드타임을 크게 줄일 수 있는 기반을 마련했다고 평가했다. 티머니는 이를 출발점으로 향후 초거대 AI 모델과 GPU 인프라를 접목하고, 자산 고장·수리 데이터 및 CSR 데이터와의 연계, 챗봇 업무 지원 확대, 현장 기사와 고객센터 접점 서비스 고도화까지 검토하고 있다고 설명했다.

이비소프트 성원상 대표는 이런 실제 적용 시나리오를 통해 AI 오케스트레이터가 챗봇을 넘어 업무 실행 플랫폼으로 작동할 수 있다고 강조했다. 고객 문의 자동 처리에서는 Jira, Slack, CRM을 연동해 상담원 배정, 검색, 대응·기록으로 이어지던 수작업 흐름을 AI 질의 수신, 즉시 응답, 자동 기록의 흐름으로 바꾸는 그림을 제시했고, DefectMATE 기반 업무 자동 분류와 데이터 분석 자동화 시나리오도 함께 제시했다. 처리시간 단축, 생산성 증대, 오류 감소, 비용 최적화 같은 기대 효과와 함께, 현황 분석부터 PoC, 파일럿, 테스트, 전사 확산까지 이어지는 5단계 도입 로드맵도 소개했다.

발표 말미에는 글로벌 서비스 대비 이비소프트의 로컬 경쟁력도 강조됐다. 성 대표는 온프레미스 완전 지원, 24시간 한국어 기술지원, 소스 레벨 커스터마이징, 멀티 LLM 오케스트레이션, AI기본법과 개인정보 이슈 등 로컬 규제 대응, 고정비 모델의 비용 투명성, C# 에이전트 SDK, 레거시 시스템 통합 역량 등을 차별화 요소로 제시했다. 특히 데이터 주권과 규제 대응, 즉각적인 기술지원은 국내 기업들이 실제 도입 과정에서 가장 민감하게 보는 지점이라는 점에서, 이비소프트의 포지셔닝이 비교적 선명하게 드러난 세션이었다.

이번 발표는 기업 AI의 성패가 더 좋은 모델을 고르는 문제보다, 여러 모델·에이전트·스킬·기업 시스템을 안전하게 연결하고 운영 가능한 상태로 묶어내는 데 있다는 점을 분명히 보여준 자리였다. 성원상 대표는 끝까지 '하나의 플랫폼으로 기업 AI를 통합한다'는 메시지를 유지하며, AI 오케스트레이터를 챗봇의 확장이 아니라 엔터프라이즈 업무 실행을 위한 기반 인프라로 제시했다. 티머니 사례까지 더해지면서, 이비소프트가 단순한 AI 기능 소개를 넘어 실제 현업 적용 가능성과 확장성을 함께 보여줬다는 점도 이번 세션의 의미를 더했다. 최근 결함관리, 모바일 테스트, 프로세스 마이닝, RPA, 태스크 마이닝, 문서관리 솔루션을 지속적으로 고도화해온 이비소프트가 생성형 AI와 온프레미스 LLM, AI-OCR, 챗봇 기술까지 묶어 기업형 AI 오케스트레이터로 확장하고 있다는 점에서, 국내 실무형 AX 시장에서의 존재감도 한층 더 부각될 것으로 전망된다.

임민지 기자 minzi56@etnews.com