'레니게이드' 8대 탑재 서버 구축 보고서·내부통제·코딩 등 임직원 업무에 사용 GPU는 고성능 연산, NPU는 AI 추론에 배치 BNK벤처투자도 퓨리오사AI 시리즈D 참여
BNK금융이 국내 AI 반도체 기업 퓨리오사AI의 NPU '레니게이드'를 도입해 임직원용 AI 업무 시스템을 구축한다. 사진은 퓨리오사AI RNGD(레니게이드) 기반 추론 전용 서버. /제공=퓨리오사AI
BNK금융지주가 국내 AI 반도체 기업 퓨리오사AI의 신경망처리장치(NPU)를 업무 시스템에 도입한다. 고성능 AI 연산은 기존 그래픽처리장치(GPU)가 맡고, 생성형 AI 서비스와 AI 에이전트를 구동하는 추론 작업에는 국산 NPU를 투입한다. 국내 금융지주와 은행 가운데 국산 NPU를 구매해 실제 업무에 적용하는 첫 사례다.
24일 금융권에 따르면 BNK금융은 퓨리오사AI의 2세대 NPU 'RNGD(레니게이드)' 8대가 탑재된 서버를 구축한다. 올 하반기 1단계 구축을 마치고 내년부터 적용 범위를 넓힐 계획이다. BNK금융은 지난 4월부터 여러 AI 인프라를 대상으로 기술 검증과 경제성 분석을 진행해 왔다.
BNK금융은 GPU와 NPU를 용도에 따라 나눠 쓰기로 했다. 대규모 AI 모델을 미세조정하는 파인튜닝이나 고성능 연산에는 GPU를 사용하고 이용자가 몰리는 AI 서비스의 추론과 AI 에이전트 구동에는 NPU를 투입하는 방식이다. 외산 GPU의 높은 가격과 공급 지연에 따른 부담을 줄이려는 목적도 있다.
NPU는 AI 연산에 특화된 반도체다. 범용성이 높은 GPU와 달리 학습을 마친 AI 모델을 실제 서비스에서 작동시키는 추론 작업에서 가격과 전력 효율이 상대적으로 높다는 평가를 받는다. 생성형 AI 사용이 급증하면서 기업들의 AI 반도체 비용이 커지자 GPU와 NPU를 함께 사용하는 방안이 대안으로 떠오르고 있다.
BNK가 도입한 NPU는 시험용이 아니라 임직원의 실제 업무에 쓰인다. 우선 'AI 코드 어시스턴트'와 'AX워크스페이스'에 적용한다. AI 코드 어시스턴트는 AI가 개발자의 코딩을 지원해 프로그램 개발 기간과 비용을 줄이는 시스템이다. AX워크스페이스에서는 사내 자료 검색과 분석부터 보고서 작성, 내부통제, 기안, 회의록 작성 등을 AI가 돕는다.
BNK금융은 이와 별도로 부산은행과 경남은행, BNK캐피탈 등 전 계열사가 사용할 공동 생성형 AI 플랫폼도 구축하고 있다. 이번에 확보한 NPU는 당장 이 사업에 포함되지는 않지만, 향후 지주 내 AI 사용량이 늘어날 경우 GPU에 몰리는 연산 수요를 나눠 맡게 된다.
퓨리오사AI는 올해 약 8000억원 규모의 시리즈D 투자도 유치했다. 첨단전략산업기금과 산업은행을 비롯해 네이버, 우리금융 계열, 한화자산운용 등이 투자에 참여했다. BNK벤처투자도 이번 라운드의 신규 투자자로 이름을 올렸다. 수출입은행과 우리은행, BNK벤처투자, 한화자산운용 등 신규 투자자들의 투자액은 약 1300억원 규모다.
투자에 이어 BNK금융이 퓨리오사AI의 실제 고객으로도 나서게 된 셈이다. 퓨리오사AI는 이번에 BNK가 도입하는 레니게이드를 앞세워 기업용 AI 추론 시장을 공략하고 있다.
BNK금융지주 관계자는 "국내 금융지주와 은행권에서 국산 NPU를 실제 구매해 구축하는 첫 상용화 사례"라며 "외산 GPU에 대한 의존도를 낮추는 동시에 국산 AI 반도체를 금융 업무에 본격적으로 적용할 것"이라고 말했다.
