백악관 “AI로 인종·성차별 말라” 권리장전 발표

사생활 보호 등 5개 원칙 제시
법적 효력이나 구속력은 없어

미 백악관은 4일(현지 시각) 인공지능(AI) 기술의 개발과 사용 과정에서 발생할 수 있는 부작용을 최소화하기 위한 AI 윤리 지침을 발표했다. 인류의 편의를 위해 개발한 AI 기술이 민감한 정보 유출과 사생활 침해, 무분별한 감시 등 적지 않은 사회적 문제를 유발하고 있다고 보고 이를 예방하고 바로잡을 수 있도록 최소한의 원칙을 마련한 것이다.

9월 30일(현지 시각) 테슬라가 자사 AI 데이 행사에서 공개한 휴머노이드 로봇 ‘옵티머스’의 모습. 옵티머스는 두 발로 걷고 두 손을 쓸 수 있는 인간형 로봇으로 짐을 옮기거나 식물에 물을 주는 것 같은 작업을 할 수 있다고 테슬라는 밝혔다. /AFP 연합뉴스

백악관 과학기술정책국(OSTP)은 이날 공개한 ‘AI 권리장전 청사진’에서 ▲안전한 시스템 ▲차별 방지 ▲데이터 사생활 보호 ▲사전 고지와 설명 ▲인적 대안 및 대비책 등 기업과 정부 기관들이 지켜야 할 기본 원칙 5가지를 공개했다. 백악관은 “지난 1년간 24개의 정부 부처 및 테크 기업들과 협의를 거친 뒤 이 같은 원칙을 마련했다”고 밝혔다.

백악관은 우선 “(AI 기술은) 안전하고 의도된 대로 설계·사용해야 한다”며 “설계 과정에서 특정 인종이나 피부색, 민족, 성별, 종교, 연령, 장애 등에 따라 사람을 차별하는 고정관념이 내재되지 않아야 한다”고 했다. 앞서 페이스북에선 미얀마 군부가 이슬람 소수민족 로힝야족에 자행해왔던 학살과 강간, 마을 방화 등 인종 학살(genocide)이 ‘가짜’라는 콘텐츠가 광범위하게 퍼졌었다. 이에 지난달 국제앰네스티는 “페이스북 모회사 메타가 로힝야족에 배상해야 한다”고 주장했다. 미국 실리콘밸리의 한 스타트업이 이민자 출신이 대다수인 콜센터 직원들의 억양을 ‘백인 말투’로 변환하는 기술을 개발했다가 인종차별이란 비판을 받기도 했다.

백악관은 또 “꼭 필요한 정보만 개인의 허락을 받아 수집하고 특히 의료, 직업, 교육, 범죄 기록, 금융 등 민감한 개인 정보는 유출되지 않도록 안전장치를 마련할 것을 권고한다”고 했다. 그러면서 “사업자들은 AI가 어떻게 작동하고 사용자에게 어떤 영향을 미치는지 이해하기 쉬운 표현으로 설명해야 한다”고 했다. AI 시스템이 인류에게 피해를 일으킬 수 있는 경우를 대비해 고객들이 원할 경우 AI가 아닌 사람을 직접 상대할 수 있도록 인적 대안 서비스를 마련해야 한다고도 했다. 미 IT 매체 엔가젯은 “아마존이 더 많은 노동력을 이끌어내려고 무리하게 기술을 사용한다거나, 페이스북이 (특정 콘텐츠 게시를 허용해) 인종 학살에 기여한다고 비판을 받는 등 AI 기술이 가져온 현대사회의 어두운 면을 해결하려 미 행정부가 나선 것”이라고 했다.

테크업계에서는 이번 AI 권리장전 청사진에 대한 평가가 엇갈렸다. 미 정부가 처음으로 AI의 부작용을 언급하며 이를 막기 위한 원칙을 권고한 것은 의미가 크지만, 법적 효력이나 구속력이 없어 한계가 있다는 것이다. 이미 구글이나 마이크로소프트 등 빅테크 기업들은 자체적으로 AI 윤리를 강조하며 AI로 인한 차별이나 피해를 막기 위한 세부 지침을 세우고 있는데, 이번 청사진은 여기에도 못 미친다는 분석이 나온다. IT 매체 와이어드는 “바이든의 AI 권리장전은 이빨이 빠져 있다”고 했다.

특히 이번 AI 권리장전 청사진은 유럽의 AI 규제 움직임과 비교하면 미흡하다는 평가를 받는다. 유럽연합은 지난 2018년 개인정보보호법(GDPR)을 시행해 테크 기업들이 사용자의 개인 정보를 철저히 관리하도록 하고 있다. 지난달엔 AI 기술이 적용된 제품을 사용한 소비자가 피해를 보면 인과관계를 입증하지 않아도 손해배상을 청구할 수 있도록 ‘AI 책임 지침’ 개정안을 마련했다.

테크업계는 이번 청사진이 추후 AI 규제로 이어질 가능성에 주목하고 있다. 현 청사진으로는 사업에 별 타격이 없지만 이를 바탕으로 규제가 만들어질 경우 AI 관련 여러 혁신이 주춤할 수 있다는 것이다. 미 상공회의소는 이날 성명을 내고 “청사진이 언급하는 AI 부작용의 범위가 지나치게 광범위하다”며 “만약 추후 구속력 있는 규칙으로 제정될 경우 미 기업들의 경쟁력을 해칠 수 있다”고 밝혔다.