인권위 "AI로 인한 인권침해 안돼…영향평가 실시해야"

"도입 필요성 지난 5월 과학기술정보통신부장관에 전달"

[서울=뉴시스] 조성하 기자 = 인공지능(AI)으로 인한 인권침해·차별 등 부정적 영향에 대한 우려가 커지는 가운데 국가인권위원회(인권위)가 인권영향평가 도입 필요성을 제기했다.

인권위는 AI 개발과 활용으로 인한 인권침해와 차별이 발생하지 않도록 관련 정책, 사업계획 수립·이행 시 'AI 인권영향평가 도구'를 활용할 필요가 있다고 8일 밝혔다. 또 이러한 필요성에 대해 지난 5월 이종호 과학기술정보통신부장관에게 전달했다고 했다.

이와 함께 공공기관이 직접 개발하거나 조달을 통해 활용하는 모든 AI와 민간에 도입되는 위험성이 높은 AI에 대해 인권영향평가가 법제화하기 전까지 인권영향평가가 자율적으로 수행할 수 있도록 'AI 인권영향평가 도구'를 보급할 필요가 있다는 의견을 더했다.

AI 인권영향평가 도구는 인권적 관점에서 AI 시스템의 부정적 영향을 식별, 방지, 완화하고 피해를 구제하기 위해 개발·활용 주체가 적용할 수 있는 구체적 기준으로 인권위가 마련한 도구다.

도구는 총 4단계 평가 문항은 평가 절차를 반영해 ▲계획 및 준비 단계 ▲분석 및 평가 단계 ▲개선 및 구제 단계 ▲공개 및 점검 단계 등으로 구성돼 있다.

인권위는 72개의 문항으로 구성된 평가 도구를 통해 AI의 개발 및 활용 주체가 기술적 위험성뿐만 아니라 인권에 미치는 영향 및 심각도를 총체적으로 점검할 수 있도록 하는 한편, 별도의 해설을 제공하는 등 가급적 평가 부담이 완화될 수 있도록 했다.

인권위는 "AI 인권영향평가 도구 보급을 통해 AI 기술이 인권친화적으로 개발·활용되는 한편, AI 인권영향평가가 법제화되는 계기가 마련되길 기대한다"고 밝혔다.

☞공감언론 뉴시스 create@newsis.com

사회