인공지능(AI)이 틀린 답을 자신 있게 내놓는 것은 기업이 가장 우려하는 시나리오 중 하나다. 의료 기록을 요약하거나 계약 조건을 검토하는 자율형 AI가 틀린 정보를 확신에 차서 전달한다면 그 피해는 단순한 오류를 넘어선다.
글로벌 '서비스형 에이전틱 AI 서비스(AaaS, Agentic AI as a Service)' 기업 애피어(Appier)가 최근 잇따라 발표한 연구들은 이 문제를 정면으로 겨냥한다. 애피어 전략의 핵심은 AI가 더 똑똑해지는 것보다 먼저 '자신의 한계를 정확히 아는 것'이다.
답 내기 전에 성공 확률부터 따진다
기존 AI는 질문에 대한 답이 맞는지 틀리는지를 봤다. 그러나 애피어는 이 접근이 기업 환경에서 한계가 있다고 판단했다. AI는 같은 질문을 여러 번 해도 매번 다른 답을 할 수 있다. 한 번 우연히 맞히는 것과 해당 과업을 일관되게 처리할 수 있는 것은 전혀 다른 문제다.
이를 해결하기 위해 애피어가 제안한 개념이 '역량 캘리브레이션(Capability Calibration)'이다. AI가 답변을 내놓기 전에 먼저 '이 문제를 내가 성공적으로 풀 수 있는 확률이 얼마나 되는가'를 스스로 추정하도록 하는 기술이다. 답의 정확도가 아니라 문제 해결 가능성을 먼저 따지는 것이다.
애피어는 여기서 한 발 더 나아가 '리스크 인지 의사결정(Risk-Aware Decision-Making)' 프레임워크도 제안했다. 프레임워크란 복잡한 문제를 풀기 위해 미리 정해놓은 판단의 틀이다. AI가 답변·거부·추측 세 가지 선택지 앞에서 각각의 결과가 가져올 기대 보상과 위험 요소(리스크)를 계산한 뒤 행동을 결정하도록 설계한 것이다. 실험 결과, 리스크 조건을 고려하지 않은 기존 대규모언어모델(LLM)들은 고위험 환경에서 오히려 과도하게 추측하고 저위험 환경에서는 지나치게 답변을 거부하는 '전략적 불균형' 현상을 보였다. 애피어는 이를 지식 부족의 문제가 아닌 여러 역량을 하나의 안정된 의사결정 전략으로 통합하지 못한 설계 문제로 진단했다.
치한 위(Chih-Han Yu) 애피어 최고경영자(CEO)는 "역량 캘리브레이션을 통해 에이전트는 응답 전에 성공 확률을 추정하고 단순한 질의는 빠르게 처리하며 복잡한 과업은 더 강력한 모델이나 추가 연산 자원을 자동으로 활용하도록 만들 수 있다"고 말했다.
마케팅 현장서 검증되는 '자율 실행' 모델
애피어의 이같은 연구가 기술 논문에 그치지 않는 이유는 실제 서비스와 직결되기 때문이다. 애피어는 최근 발간한 백서 '에이전틱 AI가 여는 자율 마케팅의 미래'에서 이 기술이 마케팅 현장에서 어떤 변화를 만드는지를 구체적으로 제시했다.
핵심 개념은 '자율성 격차'다. 고객 여정이 복잡해지고 디지털 신호가 실시간으로 쏟아지는 환경에서 사람이 직접 처리하는 기존 마케팅 업무 흐름으로는 더 이상 그 속도를 따라잡기 어렵다. 애피어에 따르면 에이전틱 AI를 도입한 한 사례에서 기존에 3일이 걸리던 캠페인 활성화 시간이 1시간 이내로 줄었다.
애피어가 제시하는 에이전틱 AI는 단순 자동화와 다르다. LLM이 추론과 콘텐츠 생성을 담당하는 '엔진'이라면 에이전틱 AI는 그 엔진을 조종하는 '파일럿'이다. 스스로 계획하고 실행하며 결과를 기반으로 지속 학습하는 구조다. 광고 수신 대상 발굴, 다단계 테스트 설정, 실시간 캠페인 조정 같은 반복 작업은 AI가 맡고 마케터는 전략과 창의적 판단에 집중하는 역할 재편이 이뤄진다.
애피어는 이러한 연구 성과를 자사의 광고·마케팅 플랫폼에 순차적으로 통합하고 있다. 역량 캘리브레이션 기술은 앞으로 모델 라우팅(AI 모델 선택 자동화), 인간-AI 협업, 신뢰 가능한 AI 시스템 구축으로 적용 범위를 넓힐 계획이다.
애피어는 애드테크 및 마케팅테크 솔루션을 통해 기업의 가치 창출을 지원하는 AI 네이티브 AaaS 기업이다. 2012년 'AI를 더 쉽게' 만들겠다는 비전 아래 설립됐다. 자율적·적응형·실시간 의사결정을 가능하게 하는 에이전틱 AI를 기반으로 한 애드 클라우드 솔루션, 개인화 클라우드 솔루션, 데이터 클라우드 솔루션을 통해 기업의 AI 전환(AX)을 지원한다.
박현준 기자
Copyright © 블로터