IBM "편견 없이 공정해야 신뢰할 수 있는 AI"

세뜨 도브린 IBM AI 전락부문 CDO(최고데이터책임자) 및 부사장. IBM 제공

"신뢰할 수 있는 AI(인공지능) 모델을 운영하려면 편견을 학습하지 않도록 감시하는 것뿐 아니라 이를 검증하기 위한 기업의 정책과 기준, 역할이 정리돼 있어야 합니다."

세뜨 도브린 IBM AI 전락부문 CDO(최고데이터책임자) 및 부사장은 23일 진행된 온라인 간담회에서 "AI가 비즈니스 운영방식을 급변시키고 있는데 이 과정에서 신뢰는 무엇보다 중요한 문제"며 "AI가 예측한 결과를 믿을 수 있어야 이를 비즈니스에 반영했을 때 더 나은 결과를 얻게 되기 때문"이라고 말했다.

최근 국내에서는 AI 챗봇 '이루다' 사태를 계기로 AI 윤리가 화두로 떠오르고 있다. 도브린 부사장은 이날 신뢰할 수 있는 AI 모델을 구축하고자 IBM이 힘을 쏟는 이슈로 △공정성 △설명 가능성 △보안 △책임을 꼽았다. 도브린 부사장은 "신뢰할 수 있는 AI 모델은 개방성을 갖춰야 하고 편견 없이 공정해야 한다. 또 비즈니스와 윤리를 잘 이해하는 것은 물론 잘 관리된 데이터로 이뤄져야 한다"고 강조했다. AI 모델을 제공할 때는 과정과 결과 모두 신뢰할 수 있는 방법으로 이뤄져야 한다는 설명이다.

특히 도브린 부사장은 편견의 기준이 국가와 업종별로 다양한 의미를 지닐 수 있다고 봤다. 그는 "여러 가지 형태의 편견이 존재할 수 있는 만큼 이를 감지해 목적에 맞게 AI 모델을 설계·개발해야 한다"며 "이후 AI 모델을 운영하는 과정에서도 편견이 들어갈 여지가 없는지 감시하고 제거할 수 있는 역량을 보유해야 한다"고 조언했다. 이어 "구축된 모델은 전사적으로 문서화해 공유해야 한다"며 ""해당 AI 모델이 어떻게 만들어졌는지를 알리고 편견이 없다는 것을 검증해야 한다"고 덧붙였다.윤선영기자 sunnyday72@dt.co.kr