“뒤처지면 망하는 건 아는데 막막하네”…뤼튼이 알려주는 AX 성공 방법

이가람 매경 디지털뉴스룸 기자(r2ver@mk.co.kr) 2026. 5. 20. 15:06
음성재생 설정 이동 통신망에서 음성 재생 시 데이터 요금이 발생할 수 있습니다. 글자 수 10,000자 초과 시 일부만 음성으로 제공합니다.
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

매경AX클럽 2차 필드트립
“AI 에이전트 도입은 선택 아닌 필수,
기업·업무 성격에 특화된 AX 권장해”
서울시 강남구 뤼튼테크놀로지스 오피스. [강영국 기자]
인공지능(AI)이 스스로 생각하고 행동하는 에이전틱 골든타임이 본격화하면서 ‘AI 기반 업무 혁신(AX)’이 기업 생존을 위한 필수 조건으로 떠올랐다.

산업 현장에서 AI가 기술 적용 단계·업무 보조 도구를 넘어 전사 업무 수행·생산 주도 역할로 자리를 잡아가는 양상이지만, 기업들의 고민은 깊어지는 분위기다.

AX의 필요성에 공감하면서도 초기 기술 한계와 사용 환경 구축이라는 난관에 가로막혀 AI 에이전트 도입이 정체되고 있다는 진단이 나온다.

19일 서울시 강남구 뤼튼테크놀로지스 오피스에서 개최된 ‘매경AX클럽 2차 필드트립’에서는 에이전틱 AI 시대로의 도약을 앞두고 기업의 AX 추진 현황을 점검하고 실행 전략을 공유하는 자리를 가졌다.

김지섭 뤼튼테크놀로지스 이사는 “기업의 직면 과제가 ‘AI를 도입할 것인가’가 아니라 ‘AI를 어떻게 활용할 것인가’로 바뀌었다”라며 “기업의 생산 혁신 전력으로 즉시 활용 가능한 에이전틱 AI 개발은 선택이 아닌 필수”라고 운을 뗐다.

AI 에이전트란 생성형 AI 기술을 통해서 이용자의 요청을 수행하는 비서를 의미한다. 기존의 질문→응답에서 나아가 목표→판단→실행으로 이어지는 의사결정 능력을 갖췄다.

이용자의 지시를 이해하고 기업 내부 시스템과 데이터를 연결해 스스로 업무를 수행한다.

이용자의 사용 패턴과 과거 대화 내역을 바탕으로 일정을 공지하거나 회의 내용 요약 및 자료 정리를 제안하는 식이다. 이용자는 승인 여부만 결정하면 된다.

김지섭 뤼튼테크놀로지스 이사가 19일 서울시 강남구 뤼튼테크놀로지스 오피스에서 기업의 인공지능 전환(AX)과 관련된 인사이트를 나누고 있다. [강영국 기자]
테크업계에서는 AI 에이전트를 ‘80:20 법칙’의 역설을 해결해 줄 열쇠로 지목했다. 현재 다수의 근로자가 단순 반복 작업에 대부분의 업무 시간을 할애 중이다. 그러나 AI에게 단순 업무를 맡기면 근로자는 전략적이고 창의적인 업무에 집중할 수 있다. 반복 업무 비중이 높은 부서일수록 업무 속도와 효율의 극대화가 기대된다.

김 이사는 “과거에는 매출액 1000억원 돌파라는 비전을 몇 년 만에 달성했느냐가 중요했다면 이제는 몇 명으로 성공했는지가 중요해졌다”라며 “우리나라의 기존 성장 방식이었던 인적 자본 투입이 한계에 다다랐다는 뜻”이라고 설명했다.

그러면서 뤼튼테크놀로지스를 대표하는 AI 에이전트 뤼트리버를 소개했다. 황금색 리트리버 강아지 캐릭터로 표현되는 뤼트리버는 사내 정책과 업무 도구를 학습해 구성원들의 업무를 전방위적으로 대행하고 있다. 간단하게는 구성원이 뤼트리버에게 자연어로 주차 시간 등록을 요청하면 뤼트리버가 알아서 자동차 정보를 매칭하고 주차권을 발급한다. 주요 업무 도구인 슬랙과 노션에 접근할 때도 여러 단계의 행동을 거쳐 실행할 필요가 없다. 뤼트리버에게 요청하면 곧바로 구동된다.

복잡하게는 비즈니스 영역에까지 영향력을 행사한다. 뤼트리버의 활약이 두드러진 부문은 고객 상담 파트였다. 뤼트리버에게 고객 문의 응답과 교환·환불 처리, 제품 수령 확인 자동화를 지시한 결과 구성원의 노동시간이 73% 줄어들었다. 개발 영역에서도 프론트엔드(28%)와 백엔드(55%)를 막론하고 근로시간 감축 효과가 확인됐다.

매경AX클럽 회원들이 19일 서울시 강남구 뤼튼테크놀로지스 오피스에서 성공적인 기업 인공지능 전환(AX)에 대한 강의를 듣고 있다. [강영국 기자]
산업계에서는 올해 안에 AI 도입 플랜을 세워야 한다는 목소리가 확산하고 있지만 현실은 녹록지 않다. 막대한 자금을 투입해 AI 에이전트를 만들었지만 정작 구성원들이 사용하지 않거나, 전문 인력의 부재로 현실성이 떨어지는 AX 로드맵이 나오는 경우도 비일비재하다.

김 이사는 기업들이 AX에 실패하는 5대 요소로 품질, 가격, 인프라, 사용성(UX), 리터러시를 꼽았다. 실제로 벤처기업협회가 지난해 중소·벤처기업을 상대로 실시한 설문 조사에서도 데이터 품질·정제·표준화 부족(81.4%)이 AX의 최대 장벽으로 나타났다. 뒤이어 △비용 예측 실패(73.3%) △문제 정의 오류(73.3%) △솔루션 미스매칭(68.8%) △개념증명 한계(64.3%) 등 순이었다.

김 이사는 “똑똑해 보이는 AI라도 막상 업무에 투입되면 기대 이하의 성과를 내는 경우가 많다. 비즈니스 현장에서 실사용이 가능한 고품질의 AI 에이전트를 구축하려면 필연적으로 자금 투자가 필요하다”라며 “클라우드·서버·전력비용도 상당하다”고 말했다.

이어 “기업이 보유한 데이터를 정형화해 AI 에이전트에 즉각적으로 연동될 수 있는 환경으로 정돈하고, 개발자가 아니라 첨단기술과 거리가 먼 구성원도 편하게 쓸 수 있도록 직관적인 인터페이스를 갖춰야 한다”라며 “사업별·부서별로 특화된 AI가 존재하기에 목적·개인 맞춤형 에이전트를 갖춰야 한다”고 조언했다.

아울러 “구성원이 AI와 친해지도록 지원하는 것이 최우선이다. 경영진은 구성원이 AI를 자주, 많이, 넓게 사용하도록 유도해야 한다”라며 “AI 사용량을 확인할 수 있도록 대시보드를 공유하거나, AI 활용도가 인사 고과나 연봉 협상에서 베네핏으로 작용할 수 있다는 메시지를 지속해서 주입해야 한다”고 강조했다.

Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지