"현재 AI는 상관관계 기반 추론…앞으로 인과관계 따져야"

AI가 'AI 공정성'도 진단한다…카이스트서 'MAF 2022' 개발

[아이뉴스24 김혜경 기자] "현재 인공지능(AI)은 상관관계에 기반한 추론을 하고 있다. 유다야 펄(judea pearl) UCLA 교수는 상관관계에서 인과관계 기반 AI로 발전할 수 있는 이론을 정립했다. 현재 AI는 상관관계에 머물고 있는 수준이지만 앞으로는 데이터 개입을 비롯해 반사실적 추론도 가능할 것으로 보고 있다."

유다야 펄(judea pearl) UCLA 교수는 상관관계에서 인과관계 기반 AI로 갈 수 있는 이론을 정립했다. [사진=스트리밍 화면 캡쳐]

8일 열린 'AI 보안 컨퍼런스'에서 유창동 한국인공지능학회장은 ‘AI의 혁신적 발전과 공정한 판단’이란 주체의 기조연설을 통해 이 같이 전했다.

유 회장은 "예를 들자면 상어 공격으로 인명 피해가 빈번하게 발생하는 해변에서 아이스크림을 판매하고 있다고 가정해보자"며 "여름에는 바다에서 수영을 하는 사람이 많을 것이므로 아이스크림 판매율과 인명 피해율도 높지만 겨울에는 둘 다 낮다"고 말했다.

그는 "아이스크림 판매와 상어의 공격으로 인한 인명 피해 간 상관관계가 있는 것"이라며 "이 같은 상관관계에 대해 현재 AI는 인명 피해율을 낮추기 위해 아이스크림 판매를 줄여야 한다는 잘못된 답변을 내놓을 것"이라고 전했다.

8일 열린 'AI 보안 컨퍼런스'에서 유창동 한국인공지능학회장은 'AI의 혁신적 발전과 공정한 판단'이란 주제로 기조연설을 하고 있다. [사진=스트리밍 화면 캡쳐]

현재 AI가 다양한 영역에서 활용되면서 공정성 논란이 일고 있다. AI의 공정성을 확보하기 위해선 보호 변수 설정이 필요하다. 보호 변수란 AI 모델의 판단결과에 영향을 미치지 않아야 하는 변수로, 법률 혹은 집단의 도덕적 가치에 의해 결정된다. 대표적으로는 성별과 장애, 나이, 종교, 인종, 출신 국가‧민족, 언어, 학력, 혼인 여부 등이 있다.

공정성은 크게 ▲개별 공정성 ▲그룹 공정성 ▲반사실 공정성으로 나뉜다. 유 회장은 "개별 공정성이란 비슷한 개인들은 비슷하게 취급돼야 한다는 것이고 그룹 공정성은 보호 변수에 의해 구분되는 서로 다른 그룹이 비슷하게 취급돼야 한다는 것"이라며 "핵심 측도는 인구통계적 형평성과 가능성의 동등성, 기회이 동등성, 예측도 동등성 등이 있다"고 설명했다.

반사실 공정성은 보호 변수를 바꿨을 때 판단 사실이 일치하는 지 여부를 살핀다. 그는 "공정성 기준의 한계를 극복하기 위해 개별 공정성과 그룹 공정성을 모두 다룰 수 있는 논리"라면서 "인과관계 추론 그래프를 만들고 해당 그래프 내에서 부호 변수를 반대로 만들어도 동일한 결과값이 나오도록 하는 것"이라고 말했다.

이어 "그러나 개인의 능력을 어떻게 평가할 것인지 측도 간 충돌하는 부분은 어떻게 해결할 것인지 등의 어려움이 있다"며 "반사실을 따질 경우에도 인과관계를 따져야 한다"고 덧붙였다.

앞으로 AI는 단순 데이터 기반으로 상관관계를 따지는 것이 아닌 상황 변동에 대한 추론까지 가능해야 한다는 것이 유 회장의 설명이다. 백신 A를 접종한 후 부작용이 생겼다면 백신 B의 경우엔 어떤 결과가 도출될 것인지도 파악 가능해야 한다는 것. 인과관계에 기반해야 하는 이유는 AI의 공정성 때문이다.

AI 공정성 여부를 진단하는 시스템도 개발되고 있다. IBM과 마이크로소프트(MS), 구글 진단시스템을 내놨고, 국내에서는 카이스트 AI 공정성 연구센터에서 개발한 'MSIT AI FAIR 2022(MAF 2022)'가 있다. 해당 센터는 현재 유 회장이 이끌고 있다. MAF는 AI 모델과 학습 데이터의 편향성을 분석·탐지·완화·제거하는 소프트웨어다. 유 회장은 “정형화된 데이터뿐만 아니라 비정형 데이터에서도 편향성을 볼 수 있다”고 설명했다.

/김혜경 기자(hkmind9000@inews24.com)

▶네이버 채널에서 '아이뉴스24'를 구독해주세요.

▶재밌는 아이뉴스TV 영상보기▶아이뉴스24 바로가기