기업 의사결정까지 맡는 멀티에이전트 AI 시대 온다
이준기의 빅데이터
생성형 AI 성과 보여줄 시도로 주목
기업 내 개인들은 보고서 작성, 기안, 번역, 간단한 프로그래밍, 정보 탐색 등에 생성형 AI를 활용하고 있으며, 기업 차원에서는 고객 상담과 기업 매뉴얼 기반 가이드 제공 등에도 사용하고 있다. 그러나 기업이 현재의 대규모 언어 모델(LLM)을 그대로 사용하기에는 몇 가지 제약이 있다. 첫째, 훈련된 모델은 일반적인 지식은 갖추고 있으나, 기업 특화 정보를 포함하고 있지 않다. 둘째, 생성형 AI는 여전히 거짓 정보를 제공하는 환각 현상에서 완전히 자유롭지 못하다. 셋째, 웹 등 외부의 최신 정보는 훈련에 포함되지 않는다. 이를 해결하기 위해 기업들은 프롬프트를 통한 N-shot learning(답의 예시를 제시해 예시된 형식으로 답을 유도하는 기법), RAG(Retrieval Augmented Generation: 특정 문서의 문맥을 제시해 그 안에서 답변을 유도하는 방식), Fine Tuning(목적에 맞게 새로 LLM을 훈련하는 방식) 등을 사용하고 있다. 하지만 아직까지 이러한 시도는 개인 생산성 향상에 주로 쓰이고 있다. 이를 기업 생산성으로 연결하는 데에는 큰 장벽이 존재한다. 앞서 언급한 글로벌 서베이에 따르면, 기대와 달리 생성형 AI를 통해 실제 성과를 내고 있다고 답한 비율은 20%를 조금 넘는 수준에 그쳤다.
최근 기업 전략 측면에서 생성형 AI를 통한 큰 성과를 보여줄 수 있는 연구와 시도들이 주목받고 있다. 그중 하나가 멀티에이전트 시스템을 통한 AI 비즈니스 솔루션이다. 멀티에이전트 시스템은 간단히 말해 여러 컴퓨터 에이전트를 만들어 각각 다른 목적과 지향점을 부여하는 방식이다. 예를 들어, 생성형 AI에 “11월에 일본 홋카이도로 2주간 800만 원의 예산으로 여행 스케줄을 만들어줘”라고 요청하는 대신, “형식은 여행사 팀장인데 그에게 맞는 비행 스케줄을 만들어줘”, “지연에겐 인스타그램을 조사해서 홋카이도 근처 30대 여성이 갈 만한 여행지를 찾아줘”, “동후에겐 호텔 사이트를 조사해 예산에 맞는 숙소를 추천해줘” 등의 역할을 구체적으로 부여하는 것이다.
개인도 여러 역할을 생성형 AI에 쉽게 지정할 수 있지만, 여기서 핵심은 각 에이전트가 서로 소통하며 하나의 목표를 향해 자율적으로 조율한다는 점이다. 예를 들어, 여행지 선택과 숙소 선택은 밀접하게 연관되어 있다. 개인은 한 에이전트가 만든 여행 스케줄을 검토하고 그 정보를 다시 사용하고 있는 생성형 AI에 전달해 여행 계획을 완성할 수 있다. 그러나 멀티에이전트 시스템에서는 각 에이전트가 독립적으로 업무를 수행한다. 각 에이전트는 업무 수행 중 새롭게 생성된 정보를 다른 에이전트에게 전달하거나, 추가 분석을 하거나, 감독 에이전트가 서로 다른 정보의 해석 방식을 결정하는 등의 역할을 한다. 각 에이전트는 웹 검색, 데이터 분석, PDF 문서 검색 등 서로 다른 도구를 사용하며, 각각의 정보 접근 권한, 규정, 메모리를 가진다.
사실 멀티에이전트 개념이 새로운 것이 아니다. 그러나 인공지능의 발전으로 각 에이전트가 독립적으로 의사 결정을 내릴 수 있는 시스템이 등장하면서 새로운 시대가 열렸다. 예를 들어, 공급망 관리에서는 한 에이전트가 현재 재고를 파악하고, 다른 에이전트가 시간별 판매량을 분석하며, 또 다른 에이전트가 공급자와의 협상을 통해 재고 보충과 구매 가격을 결정할 수 있다. 이러한 모델의 장점은 실시간으로 다양한 상품군에 대해 인공지능이 분석에 기반을 둔 의사 결정을 할 수 있다는 것이다. 현재도 규칙 기반 시스템으로 이러한 프로세스를 자동 처리할 수 있는 기업이 많다. 그러나 규칙 기반 프로세스와 달리 멀티에이전트 시스템은 환경 변화에 능동적으로 대처할 수 있으며, 모호한 경우 사람의 개입으로 최종 결정을 내리는 프로세스(escalation)도 설계할 수 있다.
이러한 멀티에이전트 AI 비즈니스 솔루션은 아직 초기 단계에 있지만, 이를 구현한 시스템들이 시장에 등장하며 단기간에 가시적 성과를 보이고 있다. 올해 시행된 뉴욕의 병원 사례를 살펴보자. 한국에서는 의료보험이 국가 주도로 운영되어, 진료 후 병원비의 나머지는 국가가 의료보험의 형태로 병원에 지급한다. 미국에서는 이 과정에서 국가 대신 보험회사가 개입한다. 미국 병원은 진료 후 보험사에 잔여 금액을 청구하지만, 병원과 보험사 간 이해관계는 상충된다. 병원은 진료비 보존이 필수적이지만, 보험사는 여러 이유로 지급을 거부하기도 한다. 최근에는 청구된 진료비의 약 22%가 거부된다고 알려져 있으며, 이는 병원에 큰 손실을 준다. 병원은 거부된 청구에 대해 재청구서를 제출해야 하며, 이는 의료 지식과 규정이 결합된 매우 복잡한 과정으로, 단순한 행정 지식만으로는 해결할 수 없고 전문의의 시간과 노력이 필요하다.
AI끼리 연계, 예기치 못 한 결과 나올 수도
이 병원은 문제 해결을 위해 멀티에이전트 AI 솔루션을 도입했다. 한 에이전트는 보험사의 거부 편지에서 이유를 추출하고, 또 다른 에이전트는 환자 기록을 가져와 적격성 규정과 거부 이유를 비교 검토했다. 다른 에이전트는 규정에 맞는 환자 기록을 추출하는 역할을 했다. 추가 환자 기록이 필요할 경우 인공지능 에이전트는 의사에게 요청한다. 마지막으로 다른 에이전트는 이 정보를 모아 보험사에 제출할 항소 편지를 작성하고, 감독 에이전트가 최종 승인하거나 부족한 부분이 있을 경우 환자 기록을 다시 추출하도록 피드백을 보낸다. 결과적으로, 이 병원은 6개월 만에 약 2500건 이상의 항소 편지를 작성해 전송했고, 재심 프로세스에 투입되는 시간과 인력을 고려할 때 성공적으로 재심을 통해 돌려받은 진료비 외에도 약 15억원의 비용 절감을 이루었다.
뉴욕 병원의 사례처럼, 멀티에이전트 AI 시스템은 생성형 AI만 분리해 사용하는 것이 아니다. 기업의 데이터베이스 시스템, 현재 시스템, 기계학습 분석, 문서 및 규정 정보가 결합된 종합적 시스템이다. 이 시스템의 장점 중 하나는 이를 통해 기업의 과거 비즈니스 흐름이 기업의 메모리에 저장된다는 점이다. 이 병원에서는 향후 보험 청구 시 의사가 기존 거부 이유와 재심 과정을 참고할 수 있을 뿐만 아니라, 시뮬레이션 시스템을 작동시켜 보험사의 반응을 예측할 수도 있다.
멀티에이전트 AI 시스템은 아직 초기 단계에 있어 해결해야 할 과제가 많다. 에이전트 간의 원활한 협업을 유도하며 성공적인 시스템을 구축하기 위해서는 높은 수준의 비즈니스 지식, AI 지식, 데이터베이스 지식이 조화롭게 결합되어야 한다. 또한, 기존과 달리 인공지능 간 상호작용으로 의사결정이 이루어짐에 따라 발생할 수 있는 예기치 못한 결과에 대비해야 한다. 따라서 시스템의 투명성을 높이고 모니터링 프로세스를 함께 설계하는 것이 중요하다. 초기 구축 비용뿐 아니라 상업용 LLM 사용 시 발생하는 토큰 비용(과금)에 대한 고려도 필요하다.
이 시스템을 효과적으로 구현하기 위해서는 기업이 자사 프로세스 중 어디에 시스템을 적용해야 최대의 이익을 얻을 수 있을지 깊이 고민해야 한다. 단순히 인간을 대체하는 것이 아니라, 새로운 의사결정 주체로서 인공지능 에이전트와 인간이 어떻게 협력할지를 설계하는 것이 관건이다. 예상되는 이런 어려움에도 불구하고 멀티에이전트 AI 시스템이 지닌 잠재력은 현시점에서 이를 외면하기엔 기업들에 너무 큰 리스크로 다가오고 있다.
Copyright © 중앙SUNDAY. 무단전재 및 재배포 금지.