"AI 개발자 중 미국 남성 많아 … 편견 담긴 답변 내놓기 일쑤"

세지포 'AI 윤리, 어떻게 해야 하나' 세션
생성형 AI 성능 평가 과정에서
여러 배경 가진 사람 참여해야
윤리적으로 건전한 제품 나와

◆ 세계지식포럼 ◆

지난해 서울 중구 신라호텔에서 열린 세계지식포럼 'AI 윤리, 어떻게 해야 하나' 세션에서 에릭 다임러 코넥서스 AI 대표(오른쪽)가 발언하고 있다. 한주형 기자

생성형 인공지능(AI)발 'AI 열풍'으로 많은 사람의 관심이 AI 기술과 투자 기회에 몰리고 있지만 AI 윤리에도 많은 관심을 기울여야 한다는 전문가들의 진단이 나왔다.

AI 모델을 훈련시키는 데 들어가는 데이터의 저작권부터 개인정보, 개발진 구성의 다양성 등이 두루 고려돼야 한다는 지적이다.

제24회 세계지식포럼 'AI 윤리, 어떻게 해야 하나: 혁신과 책임 사이에서' 세션에서는 AI 개발·활용 과정에서 지켜야 하는 윤리를 중심으로 논의가 이어졌다. 이 세션 패널 토론에서 마거릿 미첼 허깅페이스 수석윤리과학자는 AI 훈련 과정에서 인종주의, 고정관념 등 많은 편견이 개입될 수 있다고 주장했다. 데이터가 전 세계에 거쳐 고르게 추출되지 않는 것 등의 이유를 들었다. 미첼 수석윤리과학자는 "미국 남성의 말과 생각이 과대 대표되는 경향이 있다"고 했다.

에드윈 판 바이트플러스 엔터테인먼트&AI 솔루션 총괄은 AI 성능을 평가하는 과정에서 윤리 데이터베이스를 구축하고 핵심 기준에 윤리성을 도입해야 한다고 했다. 그는 "우리의 AI 목표는 정확한 답을 얻는 것뿐만 아니라 윤리적 답을 얻는 것이 돼야 한다"고 했다. 이 과정에서 그는 개발진의 다양성이 중요하다고 강조했다. 판 총괄은 "다양한 배경을 갖고 있는 사람들이 개발에 참여할 때 윤리적으로 건전한 제품이 만들어질 수 있다"고 했다.

에릭 다임러 코넥서스 AI 대표는 AI 개발에 사용된 데이터가 어디서 비롯됐는지 추적하고 입증할 수 있어야 하며 관찰자 시점에서 AI 알고리즘에 대한 감사도 필요하다고 주장했다.

AI 투명성 문제, 차별·편향성 문제, 환각 문제, 개인정보 및 저작권 문제 등에 대한 논의도 있었다. 판 총괄은 데이터 관련 저작권 등 규제 확립이 중요하다고 강조했다. 그는 "5년 전만 해도 법적인 규제 없이 안면인식 기술을 자유롭게 활용해 뷰티 필터 스티커, 아바타를 만들 수 있었지만 그로부터 3년이 지난 뒤 안면 인식 기술과 관련된 데이터를 유저로부터 가져오려고 할 때 여러 규제가 마련됐다"며 "시간이 지날수록 사용자 권리와 개인정보를 보호하는 방향으로 규제가 강화되고 있다"고 했다.

다임러 대표는 결정론적인 AI와 확률론적인 AI를 모두 사용해야 좋은 결과를 거둘 수 있다고 주장했다. 그는 "결정론적인 AI와 확률론적인 AI를 결합하면 이용자의 프라이버시를 보호할 수 있다"고 했다.

미첼 수석윤리과학자는 머신러닝과 윤리에 기반한 AI 개발에 중점을 둔 연구자다. 자연어 생성, 보조 기술, 컴퓨터 비전, AI 윤리에 관한 논문을 50편 이상 발표했으며 대화 생성 및 감정 분류 분야에서 특허를 다수 보유하고 있다. 현재 허깅페이스에서 수석윤리과학자로 근무하며 머신러닝 개발 생태계, 머신러닝 데이터 거버넌스, AI 평가, AI 윤리에 관한 업무를 추진하고 있다. 이전에는 구글 AI에서 스태프 리서치 과학자로 근무하며 AI 윤리 연구와 윤리 운영에 중점을 둔 윤리적 인공지능팀을 설립하고 공동으로 이끌었다. 다양성, 포용성, 컴퓨터과학, 윤리의 교차점에서 여러 워크숍과 이니셔티브를 주도한 바 있다.

판 총괄은 바이트플러스에서 아시아태평양 지역의 엔터테인먼트 기술 사업을 이끌고 있으며 한국 시장에 서비스를 제공하고 있다. 그는 AI, 비디오 클라우드 및 첨단기술 분야에서 다년간의 기업 경험을 가지고 있으며 C레벨 및 최고 기업의 고위 임원에게 혁신적인 제품에 대해 조언하고 있다.

다임러 대표는 기업가, 임원, 투자자, 기술자 및 정책 자문가로 이 분야에서 20년 이상 경험을 쌓았다.

그는 지역사회와 시민들이 더 지속 가능하고, 안전하고, 번영하는 미래를 위해 AI를 활용할 수 있도록 힘쓰고 있다. 버락 오바마 미국 행정부의 대통령 혁신 펠로로서 다임러 대표는 AI 기술 채택 분야에서 의제 설정을 주도했다. 그는 또 카네기멜런대 컴퓨터과학대 소프트웨어 공학 조교수와 부학과장을 지냈다.

[서정원 기자 / 강인선 기자]