정답률 45%서 84.7%로…AWS로 진화한 미래에셋증권 AI 검색

이우람 미래에셋증권 AI솔루션본부 수석이 27일 서울 중구 대한상공회의소에서 열린 'AWS 파이낸셜 서비스 포럼'에서 발표하고 있다. /사진=강준혁 기자

미래에셋증권이 아마존웹서비스(AWS)의 관리형 인공지능(AI)·데이터 서비스를 활용해 금융상품 지식 검색의 정답률을 84.7%까지 높였다. 금융상품 문서와 사내 데이터를 관계와 맥락에 따라 연결하고 답변의 출처와 유효 시점을 추적하는 구조를 구축한 결과다. 미래에셋증권은 다음달 임직원에게 서비스를 먼저 공개하고 내년 고객 대상으로 확대한다.

이우람 미래에셋증권 AI솔루션본부 수석은 27일 서울 중구 대한상공회의소에서 열린 'AWS 파이낸셜 서비스 포럼'에서 "AWS 관리형 서비스가 없었다면 이 프로젝트는 불가능했을 것"이라며 "빠르게 기술을 검증할 수 있었고 확장성도 확보했다"고 말했다.

AWS 베드록으로 금융상품 지식 구축

미래에셋증권은 생성형 AI가 관련 문장을 찾는 데 그치지 않고 금융상품 간 관계와 업무상 의미까지 파악하도록 온톨로지와 지식 그래프를 적용했다. 이 수석은 "일반 검색증강생성(RAG)은 특정 문장이 어디에 있는지 알 수 있지만 서로 다른 문장이 어떤 의미로 연결됐는지는 알지 못한다"며 "온톨로지와 그래프 RAG를 함께 적용하면 관계와 맥락을 이해해 근거 있는 추론이 가능하다"고 말했다.

미래에셋증권은 비정형 문서와 응용프로그램 인터페이스(API)에서 지식을 추출하는 데 아마존 베드록의 앤트로픽 '클로드' 모델을 활용했다. 문서 수집과 변환, 온톨로지 설계, 지식 추출, 검색으로 이어지는 작업을 AWS 환경에서 구성했다. 이 수석은 "온톨로지는 데이터를 해석할 수 있게 만드는 규칙"이라며 "책의 위치만 아는 안내원과 책의 내용까지 아는 사서의 차이"라고 설명했다.

미래에셋증권은 AI가 사용할 수 있는 데이터의 요건을 권위와 추적성, 확장성, 의미 등 네 가지로 정했다. 법령과 내부 업무 규칙 등 사람이 정한 제약은 별도로 관리하고 AI는 이를 바탕으로 답하도록 했다. 이 수석은 "AI는 제약에 대한 개념이 없다"며 "제약은 AI의 창의성을 해치지만 금융사가 고객에게 대답하면 안 되는 내용을 답하는 일을 막는다"고 말했다.

정형 데이터와 상품 문서에서 추출한 정보는 하나의 지식 그래프로 합쳤다. 시간이 지나도 바뀌지 않는 상품 구조와 수시로 달라지는 추천 사유·구성 종목은 구분해 저장했다. 모든 정보에는 출처와 유효 시점도 붙였다. 이 수석은 "모든 사실이 출처와 유효 시점을 함께 보유하면 AI가 왜 그렇게 답했는지, 근거가 무엇인지 확인할 수 있다"고 말했다.

이용자 표현을 사내 분류로 변환

미래에셋증권의 시험에서 데이터베이스 구조만 AI에 제공했을 때 정답률은 45%였다. 온톨로지를 프롬프트에 넣자 2.4%p 높아졌다. 용어 치환 규칙과 실무자의 업무 지식을 담은 시맨틱 레이어를 적용했을 때는 65%, RDB와 지식 그래프, 시점별 근거를 모두 결합했을 때는 84.7%를 기록했다.

이우람 미래에셋증권 AI솔루션본부 수석이 27일 서울 중구 대한상공회의소에서 열린 'AWS 파이낸셜 서비스 포럼'에서 발표하고 있다. /사진=강준혁 기자

이 수석은 단순히 실행 가능한 구조화 질의어(SQL)를 생성하는 것과 정확한 답을 내놓는 것은 다르다고 설명했다. 금융사 데이터에는 코드화된 값과 현업에서 사용하는 표현 사이에 차이가 있기 때문이다. 미래에셋증권은 '미국 국채'라는 표현을 내부 분류인 '해외 채권'으로 바꾸는 식으로 이용자의 질문과 사내 데이터를 연결했다.

서비스는 "법인 고객에게 추천할 오늘의 채권을 알려줘"와 같은 질문에 해당 시점의 동일한 기준을 적용해 답한다. 정확한 종목명을 입력하지 않은 질문과 앞선 대화를 전제로 한 후속 질문도 처리한다. 답변 전 이용자의 열람 권한을 다시 확인해 허용된 자료만 근거로 제시한다.

이 수석은 "어떤 모델을 쓰느냐보다 그 모델이 어떤 데이터를 참조하느냐가 AI 프로젝트의 성패를 가른다"며 "금융에서는 권한과 근거, 출처를 토대로 답변을 설명할 수 있어야 한다"고 말했다.

강준혁 기자

Copyright © 블로터