KB증권, 'AI 기술 부작용 방지' 거버넌스 체계 구축

알고리즘 편향, 고객정보 오남용 방지
삼성SDS, 김·장, KPMG 컨설팅 자문

[서울경제]

KB증권이 인공지능(AI) 금융 서비스 제공 과정에서의 부작용을 예방하기 위해 ‘AI 거버넌스 체계’를 구축한다고 30일 밝혔다.

AI 기술의 발달로 금융 산업에서도 로보어드바이저, 상담 챗봇, 머신러닝 기반 상품 추천 등 다양한 AI 서비스가 확산하고 있다. 하지만 이에 대한 부작용으로 AI 알고리즘 편향성, 고객 정보 오남용, 차별 등의 우려도 대두되는 상황이다.

이에 KB증권은 삼성SDS, 김·장 법률사무소, 삼정 KPMG 등 AI 기술과 법률 전문업체의 컨설팅을 통해 AI 기술 활용 과정에서 발생할 수 있는 윤리적·법적 문제들을 사전에 식별해 방지하기로 했다.

KB증권이 이번에 추진하는 AI 거버넌스 체계의 수립 목표는 AI 활용 과정에서 인간 존엄성·공정성·다양성 등을 존중하는 윤리 원칙을 수립하고, AI 시스템 개발을 위한 사내 규정을 체계화하는 것이다. KB증권은 이를 통해 실무 부서에서 AI 관련 시스템과 서비스를 도입할 때 사전 검토해야 할 업무 매뉴얼을 제시하고, AI 서비스별 위험도를 측정해 모니터링 정책을 수립할 예정이다.

KB증권은 거버넌스 체계 수립으로 AI 리스크 및 고객 피해 예방을 통해 소비자들이 안심하고 금융 서비스를 이용하는 데 기여할 것으로 기대하고 있다. 또 AI 활용 서비스에 대한 신뢰도를 높여 금융 시장 경쟁력 강화에도 도움을 줄 것으로 기대한다.

하우성 KB증권 디지털사업총괄본부장은 “AI의 역할이 나날이 커져가고 있는 가운데 AI 거버넌스 체계를 올해까지 선제적으로 구축할 계획”이라고 말했다.

강동헌 기자 kaaangs10@sedaily.com