국내 금융·증권업계가 생성형 인공지능(AI) 도입에 속도를 내고 있고 있지만 실제 업무에 쓸 수 있는 수준의 정확도와 신뢰성을 확보하는 일은 여전히 쉽지 않다. 특히 AI가 틀린 답을 그럴듯하게 내놓는 '환각(할루시네이션) 현상'은 수치와 근거가 중요한 업무 특성상 치명적 리스크다.
미래에셋증권은 이러한 문제의 해법을 단순한 생성형 AI 모델 고도화가 아니라 AI가 이해할 수 있는 데이터 구조를 만드는 데서 찾고 있다. 특히 그래프 검색증강생성(GraphRAG) 기반 상품지식 데이터베이스(DB)를 구축하는 과정에서 아마존웹서비스(AWS)와의 협력을 통해 이를 구체화하고 있다.
<블로터>는 최근 서울 강남구 코엑스에서 이우람 미래에셋증권 수석매니저와 만나 미래에셋증권의 인공지능 전환(AX) 전략과 AWS와의 협력 성과 등에 대해 들었다.
그래프RAG, 상품 간 '관계'까지 읽는다
다수의 증권사들은 최근 사내 문서를 다룰 때 관련 자료를 찾아 답변을 생성하는 검색 증강 생성(RAG) 기술을 도입해 활용하고 있다. 그러나 자산관리 데이터의 규모가 수천 건 이상으로 커질수록 기존 RAG는 검색 범위가 지나치게 넓어져 응답 속도가 급격히 느려지고 데이터 노이즈로 인해 종합적인 성능이 떨어지는 치명적인 문제가 나타났다.
이 수석 매니저는 "문서가 10개일 때는 검색이 잘 되던 것이 1000개가 되면 검색 속도가 100배가 아니라 200~300배 느려질 수 있다"며 "삼성이라는 단어를 검색했을 때 삼성전자와 삼성증권을 구분하지 못하고 관련 텍스트가 모두 검색되는 문제가 있었다"고 설명했다.
또 단어의 유사도만 비교하기 때문에 데이터 사이의 관계나 맥락을 이해하지 못하는 한계가 명확했다. 이 수석 매니저는 "기존 방식은 문서를 벡터화하고 검색하는 데 강점이 있지만 상품명·운용사·지수·수익률·수수료·위험·규제 문구가 복잡하게 얽힌 영역에서는 한계가 뚜렷했다"고 말했다.
미래에셋증권이 주목한 해법은 그래프RAG다. 그래프RAG는 단순히 유사한 문서를 찾는 방식이 아니라 상품과 상품을 둘러싼 개체·관계를 지식그래프로 연결해 답변 근거를 찾는 방식이다. 예컨대 '반도체 섹터이면서 삼성전자를 일정 비중 이상 담은 ETF'를 찾을 때 기존 RAG는 키워드가 포함된 문서를 찾는 데 그치지만 그래프RAG는 섹터와 보유 종목, ETF의 관계를 따라가며 검색할 수 있다.
이 수석 매니저는 "가트너 조사에 따르면 AI 관련 질문을 하는 고객 절반 이상이 그래프 기술을 함께 문의한다"며 "지식 그래프와 대규모언어모델(LLM)을 함께 쓰면 응답 정확도가 54.2% 향상된다는 연구 결과도 있다"고 소개했다.
특히 이 관계 체계의 핵심은 온톨로지(Ontology)다. 온톨로지는 AI가 어떤 개체와 관계를 추출해야 하는지 알려주는 일종의 지식 지도다.
미래에셋증권은 국제 금융 표준 온톨로지인 'FIBO'를 기반으로 한국 금융 분류 체계와 사내 용어집, 상품분류코드, 도메인 전문가 검증을 결합해 ETF 전용 온톨로지 맵을 설계했다.
이 수석매니저는 금융 특화 지식에 대한 필요성도 강조했다. 가령 '집합투자증권은 예금자보호법에 따라 보호되지 않는 실적배당상품'이라는 문장을 AI가 잘못 해석하면 오히려 "예금자보호법 적용을 받는다"라는 틀린 관계가 그래프에 저장될 수 있다.
미래에셋증권은 이 같은 부정 구문을 엄격히 걸러내기 위한 필터를 별도로 적용했다. 이 수석 매니저는 "ETF는 집합투자증권이고 집합투자증권은 예금자보호를 받지 않는다는 사실은 도메인 전문가가 알아야 잡을 수 있다"며 "그래프RAG 체계에서 전문가가 직접 검증하는 단계는 선택이 아니라 필수"라고 말했다.
AWS 기반 상품지식DB 구축
미래에셋증권의 AI 데이터 혁신 프로젝트가 시장에서 더욱 독보이는 이유는 '기술 내재화'와 '규제 돌파력'에 있다. 대다수 기업이 단기적인 가시성을 위해 외부 시스템통합(SI) 업체의 솔루션을 패키지 형태로 구매해 도입하는 것과 달리 미래에셋증권은 지속 가능한 경쟁력을 위해 자체 구축 전략을 고수하고 있다.
이 과정에서 AWS의 역할은 단순 인프라 제공을 넘어선다. 이 수석매니저는 "그래프RAG를 구축하는 거의 모든 부분에 아마존 서비스가 사용됐다"며 "정형 데이터와 PDF 파일을 각각 RDS와 S3에 올리고, 이를 지식DB화한 뒤 그래프DB와 벡터DB에 저장했다"고 설명했다. 이어 "가공 과정에서도 LLM이 필요했는데 이 역시 베드록의 클로드 모델을 활용했다"고 덧붙였다.
RDS는 클라우드에서 관계형 데이터베이스를 손쉽게 설정, 운영 및 확장할 수 있는 완전 관리형 서비스다. 베드록은 다수의 AI 기업이 제공하는 고성능 파운데이션 모델(FM)을 단일 API(응용프로그램 인터페이스)로 호출할 수 있는 완전 관리형 생성형 AI 서비스를 의마한다.
이 수석매니저는 'AWS 경험 기반 가속화(EBA)' 프로그램도 빠른 최소기능제품(MVP) 구축에 기여했다고 평가했다.
미래에셋증권은 AWS 전문가들과 협업해 올해 2~3월 상품지식DB MVP를 구축했고 이 과정에서 문서 파싱, 온톨로지 설계, 개체 해소, 그래프 구축, 검색 방법론을 검증했다. 또 복잡한 인프라와 소스 코드를 사내 엔지니어들의 핵심 역량으로 내재화하는 성과를 거뒀다.
이 수석매니저는 "솔루션을 제공하는 SI사들은 사용법만 알려주고 나가지만 AWS는 각 구성요소의 역할과 커스터마이징 지점까지 설명해줬다"며 "추후 문제가 생겼을 때 담당자들이 대응할 수 있는 역량을 키워준다고 보고 있다"고 말했다.
미래에셋증권은 현재 상품지식DB의 적용 범위를 확대하고 있다. 이 수석매니저는 "현재 진행 중인 프로젝트가 완성되면 임직원이 실제 업무에 사용할 수 있는 수준으로 회사 판매 가능 상품의 75~80% 정도를 커버할 수 있을 것"이라고 전망했다.
향후 상품 검색을 넘어 업무지식DB로 확장하고 업무별 AI 에이전트를 붙여 사내 업무 전반의 AX를 추진할 계획이다. 이 수석매니저는 "상품 검색에 걸리는 시간을 줄여 10시간 걸리던 투자제안서 작성 업무를 2시간 수준으로 단축하는 형태를 꿈꾸고 있다"며 "상품 검색을 넘어 회사가 생산하는 모든 업무 데이터를 지식DB화하는 것이 목표"라고 말했다.
권용삼 기자
Copyright © 블로터