소수자 혐오 '이루다 사건' 인권위 진정.."AI 오남용 방지돼야"

시민단체들 "AI 기술남용 인권에 부정영향 대표 사안"

스캐터랩이 개발한 인공지능 챗봇 '이루다' (이루다 홈페이지 갈무리) © 뉴스1

(서울=뉴스1) 이기림 기자 = 시민단체들이 소수자 차별 및 혐오 발언, 개인정보 유출 문제로 논란이 된 인공지능(AI) 챗봇 '이루다' 사건 관련 인권침해 및 차별 진정과 정책권고를 요청하는 제안서를 국가인권위원회에 제출했다.

민주사회를 위한 변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 진보네트워크센터, 참여연대 공익법센터, 차별금지법제정연대는 3일 "'이루다' 사안이 개별 인권침해 사안일 뿐만 아니라 인공지능 기술의 남용이 인권에 미칠 수 있는 부정적인 영향을 보여준 대표적인 사안"이라고 지적하며 인권위에 진정서를 제출했다고 밝혔다.

이들은 "인공기술의 남용에 따른 프라이버시권 및 표현의 자유 침해에 대한 국가 등에 의한 제도적 보호의 부재를 여실히 드러낸 사안"이라며 "근본적으로는 국가에 의한 인권침해에 해당한다"고 했다.

이어 "해외 국가인권기관들은 적극적 인공지능 규제의 법제화 제안, 정책권고 등 인공지능 기술에 따른 인권침해와 차별을 막기 위한 적극적인 조치를 취하고 있다" 며 "인권위는 공적 보호의 부재로 인한 인권침해 상황을 엄중히 인식해야 한다"고 밝혔다.

그러면서 "'이루다' 사건으로 드러난 인공지능, 알고리즘의 오남용으로 인한 광범위한 인권침해와 차별의 위험성은 엄연히 국가 등의 적절한 보호조치를 통해 예방, 방지돼야 한다"고 주장했다.

이들은 인권위에 Δ피해자 배상 권고 및 사적주체 포함 실효성 있는 영향평가제도 구축 ΔAI에 의한 차별 규율 위한 평등법 제정 Δ정보주체 권리보장, 가명정보 및 동의제도 관련 규정 정비 및 구제절차 보장 ΔAI기술 활용에 있어 기업 준수 가이드라인 개발 및 보급 등의 권고를 제안했다.

lgirim@news1.kr