KB증권, 인공지능 오남용 방지 'AI 거버넌스' 구축

(사진=KB증권) *재판매 및 DB 금지

[서울=뉴시스] 박주연 기자 = KB증권은 기술 급성장에 따른 부작용을 예방하고 체계적 인공지능(AI) 금융 서비스를 제공하기 위해 'AI 거버넌스 체계'를 구축한다고 30일 밝혔다.

기술의 급격한 발전으로 금융산업 분야에서 로보어드바이저, 상담 챗봇, 상품추천 등 AI 기반 서비스가 확산하며 발생할 수 있는 알고리즘 편향성, 개인 정보 오남용, 부당한 차별 등 새로운 위험 요소에 선제적으로 대응하기 위한 조치다.

KB증권은 AI 기술과 법률 전문성을 보유한 삼성SDS, 김·장 법률사무소, 삼정KPMG 등 전문업체의 컨설팅을 통해 AI 기술 활용 과정에서 발생할 수 있는 윤리적, 법적 문제와 AI 학습 데이터·모델의 위험 요인을 사전에 식별해 방지하고, 투자자가 신뢰할 수 있는 AI 금융 서비스 제공을 목표로 'AI 거버넌스 체계'를 수립할 예정이다.

AI 개발과 활용 과정에서 인간의 존엄성, 공정성, 다양성 등을 존중할 수 있는 윤리 원칙 수립 및 준수체계를 마련하고, 효율적 AI 시스템 개발을 위한 사내 규정을 체계화하는 것이 목표다.

KB증권은 실무 부서에서 AI 관련 시스템이나 서비스를 도입할 때 AI 활용 위험 감소방안을 사전에 검토할 수 있도록 AI 업무 매뉴얼을 제시하고, AI 서비스별 위험도를 측정해 산출된 위험수준별 관리 및 모니터링 정책을 수립할 예정이다.

또 정부·감독기관의 AI 관련 규제 시행에 앞서 선제적으로 관리 체계를 구축, AI를 활용해 발생할 수 있는 리스크를 예방·관리해 소비자 보호에 힘쓸 계획이다.

KB증권 하우성 디지털사업총괄본부장은 "올해 안에 선제적으로 'AI 거버넌스 체계'를 구축해 책임감 있는 AI를 도입할 계획"이라며 "고객 신뢰를 바탕으로 AI 기술을 선도하기 위해 최선의 노력을 다하겠다"고 밝혔다.

☞공감언론 뉴시스 pjy@newsis.com