이미 투자도움 주는 AI…환각·보안 문제 해결은?

[미리캔버스 생성 이미지]

민원 처리에 대한 자동응답에서 전문적인 투자 자문까지, 증권사의 인공지능(AI) 활용이 늘어나고 있다. 국내 주요 증권사의 AI 서비스 담당자들은 향후 활용도가 더 넓어질 것이라 입을 모았다.

다만 여전히 모호한 관련 규제와 AI의 보안 및 정확성 문제 등은 풀어 나가야 할 숙제로 꼽았다. 특히 도입 초기부터 사용자의 신뢰를 확보하는 것이 중요한 만큼, 다양한 방법으로 AI의 정확성을 높이고 있다.

디지털타임스는 한국투자증권, 키움증권, NH투자증권, 삼성증권, 신한투자증권, 토스증권 등 6개 증권사와 한국투자신탁운용까지 최근 AI 서비스를 확대하고 있는 금융투자업계 AI 담당자에게 증권사가 AI에 집중하고 있는 이유와 향후 발전 방향, 해결해야 할 문제 등을 물었다.

삼성증권 담당자는 “단순한 기술 트렌드를 따르는 것이 아니라, 고객 중심의 서비스 혁신과 운영 효율성 향상, 시장 경쟁력 강화를 위한 전략적 선택”이라고 강조했다.

과거 데이터와 같은 정보가 매우 중요하게 작용하는 증권업의 특성상 AI가 방대한 투자정보에서 원하는 정보를 찾도록 돕는 혁신성을 제공하고 있다고 설명했다. 단순히 투자상품을 제공하는 것에서 벗어나 개인별 맞춤형 서비스를 제시할 수 있다는 것이다.

반복적이고 정형화된 데이터를 다루는 일이 잦은 금융업권의 업무 효율화에도 도움이 되고 있다. 최근에는 기술이 더 발전해 단순 업무 외 추론형 업무까지 활용도가 높아지고 있다는 설명이다.

노현빈 신한투자증권 AI솔루션부서장은 “증권사의 기본적인 매매 기능은 물론이고 수수료 또한 더 이상 사용자가 체감할 정도로 차별화 할 수 있는 시대가 아니다”라며 “그 다음으로 증권사가 이용자에게 제공해줄 수 있는 가치, 즉 차별화 포인트는 결국 투자정보의 양과 퀄리티”라고 말했다.

각 사의 AI 활용에는 조금씩 차이가 있었다. 토스증권은 공시와 어닝콜 실시간 번역, 해외 미디어 콘텐츠 가공, 내부 개발 보조 등으로 활용하고 있고, NH와 신한은 검증된 투자정보를 한 차례 거른 뒤 제공해 투자정보의 선별과 요약, 콘텐츠 추천 등을 제공한다.

차별점은 있지만, 투자정보 제공이라는 큰 틀에서는 벗어나지 못하고 있는 것도 현실이다. 다만 담당자들은 모두 AI의 활용도가 더 넓어질 것이란 데에는 이견이 없었다.

노 부서장은 “만일의 상황이 발생하면 사고나 피해 규모를 가늠하거나 제한하기 쉽지 않아 내부통제와 고객신뢰가 최우선인 상황”이라며 “급격한 기술발전과 동시에 실험적인 시도만을 통해 성장하는 전략은 취하기 쉽지 않을 것”이라고 말했다.

이에 따라 신뢰도와 정확성을 담보한 AI를 통해 천천히, 그러나 광범위하게 확장될 것으로 봤다.

이상옥 NH투자증권 AI솔루션부 차장은 “앞으로 AI는 초개인화된 투자 서비스로 발전해 나갈 것”이라며 “투자자 개인의 재무 상황과 시장 흐름을 종합적으로 분석해 맞춤형 포트폴리오 관리와 리스크 컨설팅까지 제공하는 방향으로 진화하고, 특히 규제 환경이 엄격한 업권 특성상 안정성과 신뢰성을 담보하는 AI가 그 중심이 될 것”이라고 예상했다.

결국 새로운 기술을 누가 더 빠르고 정확하게 활용할 지가 향후 AI 경쟁을 좌우할 것이란 전망이다.

왕현민 토스증권 프로덕트 오너는 “AI 활용 서비스 준비 과정에서 가장 큰 도전은 빠른 기술의 변화 속도”라며 “끊임없이 등장하는 새로운 기술을 얼마나 신속하고 유연하게 적용할 수 있을지, 동시에 안정성과 효율적인 운영을 어떻게 유지할지가 주요 과제”라고 꼽았다.

한투운용 담당자는 “금융권은 다른 업권과 비교해 상대적으로 더 높은 보안과 정확성을 요구한다”며 “이는 금융권이 다루고 있는 정보가 개인정보를 포함하고 있고, 충분한 투자 설명이 필요한 투자 상품이기 때문”이라고 강조했다.

금융권은 물론 산업 전반의 AI 활용에 대한 규제가 미비한 상황에서, 보안과 환각 리스크 등의 문제도 해결해 나가야 한다.

왕 오너는 “일반적인 생성형 AI 모델에 답변을 전적으로 의존하는 접근 방식은 금융 서비스가 요구하는 정확성과 신뢰성을 충족하기 어렵다”며 “토스증권은 팩트 기반 데이터를 우선 수집하고, 그 위에 AI를 보조 도구로 활용한다”고 설명했다. 이어 “데이터를 철저히 검증하고 AI를 ‘통제 가능한 도구’로 활용하는데 집중할 것”이라고 덧붙였다.

이택헌 키움증권 AIX팀 이사도 “생성형 AI 활용에 따라 잠재적으로 상존하는 환각 현상의 리스크에 키움증권도 많은 우려를 가지고 있다”며 “검증된 외부 레퍼런스 활용과 명확한 프롬프팅 과정 전반을 검수해 잘못된 정보의 부작용을 최소화하기 위해 노력하고 있다”고 설명했다. 이어 “고객이나 직원의 의사결정 과정을 조언해 주는 역할에 집중하고, 최종 검수나 판단은 사람이 직접 결정하는 것을 원칙으로 AI 부작용을 최소화하고자 한다”고 말했다.

김남석 기자 kns@dt.co.kr