[스마트클라우드쇼 2022] 사라 버드 MS 매니저 "AI 기술, 소외 계층 불평등 유발..공정·포용 필수"

사라 버드 마이크로소프트(MS) 애저 AI 수석 그룹 제품 매니저가 14일 스마트클라우드쇼 2022에서 강연하는 모습. /조선비즈DB

인공지능(AI) 기술의 와해성(distruptive) 혁신은 소외 계층의 불평등을 유발한다. 기술이 모든 사람에게 평등하게 적용될 수 있도록 AI 개발 과정에서 공정성과 포용성을 확보해야 한다.

사라 버드 마이크로소프트(MS) 애저 AI 수석 그룹 제품 매니저는 14일 서울 중구 웨스틴 조선호텔에서 진행된 ‘스마트클라우드쇼 2022′에서 이렇게 말했다.

버드 매니저는 이날 ‘AI 디자인: 세계를 위한 책임감 있는 AI 기술 개발’을 주제로 AI 기술 영향력과 역할, 실행 원칙 등을 공유했다. 그는 “AI 기술의 와해성 혁신을 경계해야 한다”라며 “AI 기술은 모든 이들을 대상으로 원활히 작동해야 한다”라고 했다.

와해성 혁신은 새로운 기술이 기존에 없는 시장과 일자리 등을 만드는 동시에 기존 시장과 직업을 위태롭게 만드는 현상을 말한다. 신기술이 만드는 변화가 사회에 문제없이 적용되기 위해서는 새로운 제도와 합의가 필요하다. 전문가들은 이 과정에서 소외 계층이 외면받는 상황을 해결해야 한다고 조언하고 있다.

버드 매니저는 “우리는 AI 기술이 가져올 긍정적인 면은 고민하고 있지만 와해성 혁신이 모두에게 평등하지 않다는 점은 유념하지 않고 있다”라며 “지난 2018년 MIT의 연구에 따르면 초기 얼굴 인식 기술은 피부색이 어두운 여성에게 잘 작동하지 않는다는 심각한 결격사항을 보인 바 있다”라고 했다.

그는 “전 세계 기업 10곳 가운데 9곳은 AI 기술과 관련한 윤리적 문제로 고심하고 있다”라며 “윤리적 문제를 해결할 답은 책임 있는 AI에 있다”라고 했다. 이어 “책임 있는 AI는 기술 전반에 (공정성과 포용성이 포함되길 원하는) 우리의 의도를 포함하고, AI 기술이 촉발할 위험한 결과를 피하게 만드는 것이다”라고 했다.

버드 매니저는 “책임 있는 AI의 핵심은 AI 기술이 인간 중심적이고, 사회 공학적이어야 한다는 점이다”라며 " AI 개발 과정에서 인간을 최우선으로 생각하고, 기술에 대한 신뢰를 바탕으로 사회에 공헌해야 한다”라고 했다.

책임 있는 AI가 지켜야 할 원칙으로 공정성과 포용성을 꼽았다. 그는 “AI 기술이 모든 사람에게 평등하고 원활하게 작동한다는 신뢰를 갖고 있어야 한다”라며 “AI 기술에 대한 신뢰를 높이기 위해서는 적절한 수준의 투명성과 결과에 대한 책임 소재가 명확해야 한다”라고 했다.

- Copyright ⓒ 조선비즈 & Chosun.com -