연준 부의장 "인공지능, 불평등 영속화할 가능성" 경고

"학습 데이터 내 편견·오류 증폭될 수 있어"
FTC·소비자보호국도 AI 악용 차별조사 나서

[이데일리 박종화 기자] 마이클 바 미국 연방준비제도(Fed·연준) 금융감독 담당 부의장이 인공지능(AI) 기술이 소수자 차별에 악용될 수 있다고 경고했다.

마이클 바 미국 연방준비제도(Fed·연준) 금융감독 부의장. (사진=AFP)

18일(현지시간) 로이터통신 등에 따르면 바 부의장은 이날 공정주택법(주택 구매 등에서 부당한 차별을 금지한 법) 제정 55주년 기념 연설에서 “AI 기술은 엄청난 잠재력이 있지만 공정한 대출을 위한 법률을 침해하고, 해소돼야 할 불평등을 영속화할 위험이 있다”고 말했다. 이어 “AI 학습에 이용된 데이터가 불완전하거나 대표성이 결여됐을 경우 데이터 내의 편견과 오류가 (AI를 통해) 지속·증폭될 수 있으며 잘못된 예측을 할 수 있다”고도 지적했다.

바 부의장은 페이스북의 주택 광고를 AI가 소수자 차별에 악용된 예로 들었다. 페이스북은 AI를 활용해 장애인과 외국인, 저소득 지역 거주자 등을 광고 노출 대상에서 제외했다가 2018년 전미공정주택연맹(NFHA) 등에 소송을 당했다. 소송에 시달린 끝에 페이스북은 AI를 활용한 ‘타깃 광고’를 중단하겠다고 약속해야 했다.

미 규제당국이 디지털 기술을 이용해 특정 집단에 서비스 제공을 거부하는 ‘디지털 레드라이닝’이나 불공정한 금융 조건을 제공하는 ‘리버스 레드라이닝’에 대한 우려를 표명한 건 이번이 처음이 아니다. 연방거래위원회(FTC)와 금융소비자보호국(CFPB) 등도 지난 4월 발표한 합동성명에서 디지털 레드라이닝 사례를 조사하고 있다며 이 같은 차별이 드러나면 현행법에 따라 처벌할 수 있다고 경고한 바 있다.

바 부의장도 이날 “아직 은행이 AI·머신러닝 기술을 적용하는 초기 단계지만 연준은 감독이 그에 보조를 맞출 수 있도록 노력하고 있다”며 “기업이 이 같은 신기술과 관련해 적절한 위험 관리·통제 체계를 갖추고 있는지 평가하고 있다”고 말했다.

박종화 (bell@edaily.co.kr)