인권위, 인공지능 인권침해 방지 '영향평가' 도입

인권지능 인권영향평가 이행단계 /인권위 제공

[더팩트ㅣ황지향 기자] 국가인권위원회(인권위)는 8일 인공지능의 인권침해를 방지하기 위한 '인공지능 인권영향평가 도구'를 마련했다고 밝혔다.

인공지능 인권영향평가 도구는 인권적 관점에서 인공지능 시스템의 부정적 영향을 식별, 방지, 완화하고 피해를 구제하기 위한 목적으로 만들어졌다. 평가 대상은 공공기관이 직접 개발하거나 조달하는 모든 인공지능과 민간에서 활용하는 고위험 인공지능 등이다.

평가는 총 4단계로 이행한다. 1단계 계획 및 준비, 2단계 분석 및 평가, 3단계 개선 및 구제, 4단계 공개 및 점검이다. 이를 통해 인공지능 활용 주체가 기술적 위험성뿐만 아니라 인권에 미치는 영향 및 심각도를 총체적으로 점검할 수 있다.

'인공지능 기술 및 인권, 그리고 인공지능이 활용될 분야에 대해 전문성을 갖추고 있냐', '조직 내 인권영향평가 수행의 요건, 주체, 절차 등을 상세히 규정한 내규가 있냐' 등 72개의 문항으로 이뤄졌다.

인권위 관계자는 "인공지능 시스템은 특유의 불투명성과 파급 효과 등으로 인사후적인 피해 구제나 제재가 어렵다"며 "인공지능 인권영향평가 도구의 보급을 통해 인공지능 기술이 인권친화적으로 개발·활용되고 인공지능 인권영향평가가 법제화되는 계기가 마련되기를 기대한다"고 말했다.

hyang@tf.co.kr

발로 뛰는 더팩트는 24시간 여러분의 제보를 기다립니다.
▶카카오톡: '더팩트제보' 검색
▶이메일: jebo@tf.co.kr
▶뉴스 홈페이지: http://talk.tf.co.kr/bbs/report/write