"AI 인권침해도 예방해야"..챗봇 '이루다' 인권위 진정

시민단체들, 인권위에 진정서 접수
인권침해 및 정책 권고 요청 취지
"인공지능 등 신기술 무비판 도입"

[서울=뉴시스] 박민기 기자 = 일부 시민단체들이 성희롱 및 차별·혐오 등 논란에 휩싸여 결국 서비스가 중단된 인공지능(AI) 챗봇 '이루다'를 두고 "인공지능을 통한 인권침해는 예방돼야 한다"며 국가인권위원회(인권위)에 진정을 제기한 것으로 3일 파악됐다.

이날 시민단체 진보네트워크, 참여연대, 민주사회를 위한 변호사모임 디지털정보위원회 등은 '이루다 챗봇 사건' 관련, 인권침해 및 차별 진정과 정책 권고를 요청하는 취지의 진정서를 인권위에 접수했다고 밝혔다.

이들은 "이루다 챗봇 사안은 개별 인권침해 사안일 뿐만 아니라 AI 기술의 남용이 인권에 미칠 수 있는 부정적인 영향을 보여준 대표적인 사안이라는 점을 지적했다"며 "인권위에 관련 정책 전반에 대한 개선 권고를 요청했다"고 전했다.

이들은 "이루다 사안은 인공기술의 남용에 따른 프라이버시권 및 표현의 자유 침해에 대한 국가 등에 의한 제도적 보호의 부재를 여실히 드러낸 사안으로, 근본적으로는 국가에 의한 인권침해에 해당한다"며 "호주, 네덜란드 등 해외 국가인권기구들은 인공지능 기술에 따른 인권침해와 차별을 막기 위한 적극적인 조치를 취하고 있지만, 우리나라 인권위는 현재까지 관련 정책 등에 대해 특별한 대응을 하지 않고 있다"고 했다.

이어 "우리나라는 제4차 산업혁명 아래 인공지능 등 신기술이 무비판적으로 도입되고, 개인정보의 상업적 활용이 무분별하게 허용되고 있다"며 "인권위는 공적 보호의 부재로 인한 인권침해 상황을 엄중히 인식하고 관련 정책을 점검하는 등 국가인권기구로서의 역할을 다해야 한다"고 덧붙였다.

단체 관계자들은 "이루다 사안을 사적 영역의 문제 또는 한 기업의 일탈 행위로 보고 기업 등의 자율적 규제를 대안으로 제시하는 일부 주장에 깊은 우려를 표한다"며 "이번 진정이 신기술로 인해 발생할 수 있는 인권침해와 차별의 위험성 등을 방지하고, 정보주체의 권리를 확인하는 하나의 계기가 될 수 있기를 바란다"고 강조했다.

이루다는 20세 여성 캐릭터를 모방하면서 지난해 12월23일 출시됐다. 출시 이후 2주 만에 이용자가 75만명을 넘어서는 등 사회적인 관심을 끌었지만, 온라인 커뮤니티 등에서 이루다에 대한 성희롱 논란 등이 일면서 문제가 제기됐다.

이루다는 또 동성애, 장애인 등 사회적 소수자에 대한 혐오 발언을 한 것에 이어 카카오톡 대화를 학습하면서 사용됐던 데이터가 제대로 익명화되지 않았다는 사실이 드러나면서 개인정보 유출 의혹까지 일었다.

이루다를 선보인 스타트업 스캐터랩은 지난달 11일 입장문을 통해 "일정 기간 서비스 개선 시간을 가지며 더 나은 이루다로 찾아뵙고자 한다"며 결국 서비스를 종료했다.

☞공감언론 뉴시스 minki@newsis.com