대만 인공지능(AI) 솔루션 기업 애피어(Appier)가 작은 AI 모델도 업무용 도구를 스스로 만들어 쓰게 하는 기술 'SMITH(Schema-grounded Multi-task Iterative Tool Honing)'를 공개했다. 이렇게 만든 도구는 다른 AI도 가져다 쓸 수 있어 값비싼 대형 모델 없이 AI 에이전트를 운영하려는 기업의 비용 부담을 덜어줄지 관심이 쏠린다.
2일 애피어에 따르면 회사가 발표한 연구 논문 '거대언어모델 에이전트를 위한 도구 생성과 활용의 공동 최적화(Joint Optimization of Tool Creation and Use for Large Language Model Agents)'가 AI 올림픽으로 불리는 세계 최고 권위의 AI·머신러닝 학회 뉴립스(NeurIPS)에 채택됐다. 애피어 AI 리서치와 국립대만대 연구진이 쓴 이 논문은 지난 8월25일 arXiv(아카이브)에 공개됐다. arXiv는 물리학·수학·컴퓨터과학 등 이공계 분야의 출판 전 논문을 무료로 공유 및 열람할 수 있는 온라인 저장소다.
추론 토큰 32배 절감… 소규모 AI 경쟁력 높이는 'SMITH'
이번 연구의 핵심은 AI가 직접 도구를 만들고 이를 사용하는 법까지 한꺼번에 가르치는 기술 SMITH다. 여기서 도구란 AI가 계산이나 데이터 조회 같은 일을 맡길 때 불러 쓰는 프로그램(API)을 뜻한다. 지금까지는 이런 도구를 사람 엔지니어가 직접 만들어 줘야 했다. AI가 직접 만들더라도 도구를 만드는 AI와 쓰는 AI가 따로여서 만든 도구가 실제로 잘 작동하는지 알려 주기 어려웠다. SMITH에서는 한 AI가 도구를 만들고 직접 써 본 후 잘 되는지 확인해 고치는 과정을 되풀이하며 스스로 실력을 키운다.
학습은 쉬운 문제부터 시작한다. AI는 간단한 예제 4개를 보고 도구를 만든 뒤 처음 보는 어려운 문제 16개로 시험을 본다. 이 시험을 통과한 도구만 여러 AI가 함께 쓰는 공유 라이브러리에 담기고 더 좋은 도구가 나오면 기존 도구와 교체된다.
연구 결과 13개 추론 과제로 학습한 40억 개(4B) 규모의 작은 AI는 학습 때 접하지 않은 과제에서 평균 79.8점을 받아 비교 대상 가운데 가장 높았다. SMITH 학습을 거치지 않은 300억 개(30B) 규모 AI가 그때그때 도구를 만든 경우보다도 점수가 높았다. 작은 AI가 만든 도구는 이보다 훨씬 작은 3억 5000만 개(350M) 규모 AI도 잘 써서 새 문제를 풀었고 더 큰 AI에게 줬을 때도 성능이 올랐다. 매번 단계별로 풀던 문제를 검증된 도구 하나로 처리하자 답을 내는 데 쓰는 토큰 수가 평균 3206개에서 약 100개로 줄어 효율이 약 32배 좋아졌다.
묻는 AI에서 '일하는 AI'로… 주요 빅테크, 에이전틱 AI 선점 사활
이 연구가 뉴립스에 채택된 배경에는 에이전틱 AI가 빠르게 확산되는 상황에서 병목으로 꼽히던 '도구' 문제를 정면으로 다뤘다는 점이 있다. 최근 글로벌 빅테크 기업들은 앞다퉈 에이전틱 AI와 도구 사용 능력을 키우고 있다.
오픈AI는 지난달 10일 코덱스(Codex)를 구동하는 에이전트 운영 환경을 관리형 엔드포인트로 제공하는 '에이전트 API'를 공개 베타로 내놨다. 에이전트 소프트웨어 개발 도구 모음(SDK)도 올해 4월 샌드박스 실행 기능 등으로 확장했고 코덱스는 챗GPT·터미널·개발도구 전반에서 코드를 짜고 테스트하는 상시 협업 에이전트로 진화하고 있다.
구글은 5월 개발자 행사 I/O에서 '에이전틱 제미나이 시대'를 선언하며 에이전트 개발 플랫폼 '안티그래비티 2.0'과 제미나이 API의 관리형 에이전트, 개인 에이전트 '제미나이 스파크'를 공개했다. 메타 역시 지난달 8일 미국에서 개인 AI 에이전트 '뮤즈'를 출시했다. 앤트로픽도 관리형 에이전트와 SDK를 제공하고 있다.
그러나 이처럼 에이전트의 활동 영역이 넓어져도 도구 문제는 남아 있었다. 지금까지 AI 에이전트는 사람이 미리 만들어 둔 API에 의존해 데이터나 업무 환경이 바뀔 때마다 도구를 새로 구축해야 했다. AI가 스스로 도구를 만드는 경우에도 도구를 만드는 모델과 쓰는 모델이 달라 만든 도구가 실제로 잘 작동하는지 피드백을 받기 어려웠다. SMITH는 도구를 만드는 능력과 쓰는 능력을 하나의 학습 루프에서 함께 익히게 해 작은 모델로도 큰 모델에 필적하는 도구를 만들고 추론 비용까지 줄일 수 있다는 설명이다.
AI도 가성비 시대… 에이전트 확장의 병목 풀 '자율 도구 생성'
SMITH 같은 자율 도구 생성 접근이 상용화되면 기업이 무겁고 비싼 대형 모델에만 의존하지 않아도 될 가능성이 열린다. 도구 설계는 SMITH로 학습한 소형 모델이 맡고 한 번 검증돼 라이브러리에 저장된 도구는 더 작은 모델이 가져다 써서 △재무 지표 변환 △보고서 조회 △규정 확인 △고객 문의 분류 같은 반복 업무를 처리하는 식이다. 애피어가 속한 광고·마케팅 분야에서는 고객 데이터·개인화·광고 구매를 맡은 에이전트들이 같은 도구와 비즈니스 규칙을 공유하며 협업할 수 있다는 것이 회사 설명이다.
관건은 검증이다. AI가 스스로 만든 도구를 업무에 쓰려면 신뢰성을 확인하는 절차가 필수인데 SMITH도 학습에 쓰지 않은 문제로 검증을 통과한 도구만 라이브러리에 올린다. 정답을 자동 채점하기 어려운 현실의 업무에서 이런 검증을 어떻게 구현하느냐가 상용화의 과제가 될 전망이다.
치한 위(Chih-Han Yu) 애피어 공동 창업자 겸 최고경영자(CEO)는 인간이 문제 해결 경험을 도구로 만들어 반복을 피해왔듯 "AI 에이전트도 같은 방식으로 진화하고 있다"며, 앞으로 에이전틱 AI의 실제 적용을 확대해 기업이 "측정 가능한 성과"를 창출하도록 돕겠다고 말했다.
김가영 기자
Copyright © 블로터