인권위 "공공기관 인공지능 개발, 인권 침해 척도 평가 해야"

AI 관련 인권 보호 기준 제시
인권영향평가 도구 보급 제언

공공기관의 인공지능(AI) 개발 과정에서 인권침해를 막기 위해 인권영향평가 도구를 보급해야 한다는 국가인권위원회(인권위)의 의견이 나왔다.

인권위는 과학기술정보통신부 장관에게 공공기관이 고위험 AI에 대해 자율적인 인권영향평가를 수행할 수 있도록 평가 도구를 보급하라는 의견을 표명했다고 8일 밝혔다.

[이미지출처=아시아경제DB]

인권위는 AI 발전으로 차별 등 부정적 영향이 확산하고 있다며 우려를 표했다. 인권위는 "AI는 특유의 불투명성과 파급효과로 인해 사후적인 피해구제나 제재가 어렵다"며 "이에 유엔(UN)과 세계 각국도 단순한 윤리기준을 넘어선 다양한 영향평가를 도입하는 추세"라고 설명했다.

앞서 인권위는 지난해 AI 법률안에 대한 의견을 표명하고 인권 가이드라인을 권고하는 등 AI의 인권 침해 심각도를 평가할 제도 도입을 촉구한 바 있다.

이후 인권위는 외부 전문가 논의를 거쳐 지난 4월 AI 인권영향평가 도구 개발을 완성했다. 해당 도구는 AI가 인권에 미치는 영향과 심각도를 총체적으로 점검할 수 있는 72개 문항으로 구성됐다. 또 점검 순서를 △계획 및 수립 △분석과 평가 △개선과 구제 △공개와 점검 등 4개로 분류해, 단계적인 평가가 가능한 것이 특징이다.

인권위 관계자는 "도구 보급을 통해 AI가 인권 친화적으로 개발되길 바란다"며 "아울러 AI 인권영향평가 도구가 법제화되기를 기대한다"고 말했다.

이지은 기자 jelee0429@asiae.co.kr