'AI 젠더 편향' 방지 위한 인공지능 기본법 개정안 나왔다

[AI 미디어 파도] 'AI 성별 편향 금지' 기본원칙·국가 책무 명시 개정안 발의
고영향 AI 평가 대상에 '성별 편향 관한 사항' 포함, 시정조치 마련 규정

[미디어오늘 윤유경 기자]

▲ AI를 구현한 이미지. 사진=Getty Images Bank

인공지능(AI)의 개발과 활용 과정에서 나타나는 젠더 편향을 방지하기 위한 법안이 발의됐다.

국회 행정안전위원회·성평등가족위원회 소속 정춘생 조국혁신당 의원은 지난 13일 AI 성별 편향을 금지하는 내용의 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(인공지능 기본법) 개정안을 대표발의했다. 개정안은 AI의 개발과 제공, 이용 과정에서 성별을 이유로 한 편향 또는 차별이 발생하지 않도록 노력해야 한다는 것을 기본 원칙이자 국가 등의 책무로 규정했다.

또한 정부가 AI의 개발·활용 과정에서 성별 편향 등의 방지에 관한 사항을 포함한 '인공지능 윤리원칙'을 제정·공표할 수 있도록 했고, 고영향 AI 평가 대상에 '성별 편향 등에 관한 사항'을 포함해 결과에 따라 필요한 시정조치를 마련하도록 했다. 인공지능 기본법에서 규정하는 고영향 AI란 사람의 생명·신체 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI 시스템을 말한다.

AI가 특정 성별을 편향, 차별하며 성별 고정관념을 재생산하는 'AI 젠더 편향'에 대한 지적은 꾸준히 반복돼왔다. AI가 학습하는 데이터가 편향되어 있어 발생하는 현상이다. 2018년 아마존(Amazon)은 자체 개발한 AI 채용 시스템이 '여성'이라는 단어가 포함된 이력서를 낮게 평가하는 문제를 확인했고, 수정해도 개선되지 않자 결국 해당 시스템을 폐기했다. 2021년 AI 챗봇 '이루다'는 여성, 장애인, 성소수자 등에 대한 혐오·차별 표현을 한 사례가 논란이 되며 서비스가 중단됐다.

2024년 8월 한국여성정책연구원이 주최한 제 137차 양성평등정책포럼에 참석한 김애라 부연구위원의 발표에 따르면, 1988년부터 2021년까지 133개 AI 시스템 편향성을 추적한 연구 결과 44%가 성별 편향성을 보였고, 4분의 1 이상이 성별과 인종 편향성이 모두 나타났다. 당시 김 위원은 젠더 편향 완화를 위해 AI 관련 법에 차별금지 원칙을 명시하고, AI 위험관리 대상에 잠재적 편향·차별가능성을 포함시켜야 한다고 제언했다.

지난 1월 한국여성단체연합은 '대한민국 인공지능 행동계획안'을 발표한 대통령 직속 국가인공지능전략위원회에 AI 젠더 편향 문제를 해결해야 한다는 내용의 의견서를 보내기도 했다. 이들은 인공지능 계획이 AI 인프라 구축 과정에서의 데이터의 젠더 편향 문제 등을 고려하지 않았다고 지적했다.

정춘생 의원은 “AI 성별 편향 문제는 이미 실제 사례로도 확인되는 만큼 이를 방지하기 위한 제도적 장치 마련이 필수적인 상황”이라며 “개정안을 조속히 통과시켜 AI의 차별적이고 편향적인 성역할 고정관념을 깨야 한다”고 말했다.