시민사회, 인공지능법안에 "국민 안전과 인권에 큰 위험"

2일 인권시민단체들, 과방위에 '인공지능육성법안' 반대 의견서 제출
지난달 국회 과방위 법안심사소위 통과
'우선허용·사후규제 원칙'은 독소 조항 주장

[미디어오늘 박서연 기자]

진보네트워크센터 등 15개 인권시민단체가 국회 과학기술정보통신방송법안심사소위를 통과한 '인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안'(인공지능법안)에 대해 국회 과방위에 반대 의견서를 제출했다.

2일 오후 진보넷 등 15개 인권시민단체는 “이번 인공지능법안은 입법 취지와 목적인 '국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상'에 부합하지 않을 뿐만 아니라, 현행 지능화정보법과도 목적과 내용이 유사해 입법의 필요성도 의문이며, 국제인권규범 및 해외 입법정책의 예에 비춰 안전과 인권에 미치는 인공지능 위험 규제의 효과를 제대로 담보할 수 없고, 소관 부처도 적절하지 않아 전면 재검토할 것을 요구했다”고 말했다.

▲ⓒ istock.

지난달 6일 과방위는 법안심사소위에서 인공지능법안을 통과시켰다. 2021년 7월 정필모 더불어민주당 의원 등 23인은 입법 이유에 대해 “인공지능을 기술적·산업적 측면에서 진흥해 국가적 성장동력으로 삼아야 하는 정책방향과 인공지능이 개인과 공동체에 신뢰받는 문명의 이기가 되도록 하는 입법적 차원의 준비 역시 필요한 시점”이라고 밝혔다.

그러나 단체들은 “인공지능은 이미 기술, 공학의 영역을 넘어 사회, 경제, 법률 등 전 영역에 영향을 미치고 있다. 또한 인공지능의 편의성 이면에 데이터 결함과 오작동 가능성, 알고리즘의 불투명성과 공정성 문제 등 인공지능의 인권 침해와 차별적 효과에 대한 우려가 끊이지 않고 있다”고 우려했다.

2020년 UN사무총장은 인공지능 사용에 대한 책임성을 보장하는 법률 체계와 절차를 마련할 것을 각국에 권고했다. 유럽연합도 인공지능의 위험도를 금지·고위험·저위험·허용 등 4단계로 분류하고 각각에 대한 규제 사항을 구체적으로 규정하고 있다. 미국은 인공지능 시스템의 책무성을 강화하는 입법안을 추진 중이고, 영국과 캐나다는 규제를 이미 시행 중이다. 한국 국가인권위원회는 지난해 5월 인공지능 개발과 활용에 관한 인권 가이드라인을 발표했다.

이에 단체들은 “이처럼 국내외에서 이뤄진 입법 추진 동향과 연구 및 논의 내용을 종합하면, 현 시점에서 제정되는 인공지능 관련 기본법은 적어도 인공지능의 위험을 효과적으로 규제하고 이를 위한 감독 체계를 수립하며 권리구제에 대한 내용이 구체화돼야 함은 자명하다”며 “그러나 이번 소위를 통과한 인공지능법안은 국내외기준이 요구하는 수준을 충족하지 못할 뿐만 아니라 광범위한 규제 완화와 과기부를 소관부처로 해 일임하는 규정들로 인해 오히려 국민의 안전과 인권을 큰 위험에 처하게 한다”고 지적했다.

특히 소위안 제11조 '우선허용·사후규제 원칙' 조항을 독소 조항이라고 평가했다. 단체들은 “인공지능의 위험성에 대한 효과적인 감독과 피해 구제를 규정하지 않고, 위해가 있을 수 있는 인공지능을 시장에 우선적으로 출시할 수 있도록 하고 있어 가장 문제가 되는 독소조항”이라고 짚었다.

결론적으로 단체들은 “인공지능 기술과 제품이 국민의 안전과 인권에 미치는 위험을 방지하고 조치하는 규제기관의 작용과 감독 정책을 효과적으로 집행하고, 피해자를 구제하며, 위반시 처벌하는 내용을 반드시 포함해야 할 것”이라며 “챗GPT를 비롯한 인공지능 제품과 서비스, 공공 의사결정이 오류, 안전, 인권에 미치는 위험성이 그 어느 때보다 높아지는 현재 시점에 제정되는 인공지능 기본법이, 과기부가 소관하는 인공지능 산업 진흥을 위해 다른 규제기관 업무를 방해하고 국민의 안전과 인권을 위험에 처하게 하는 내용이어서는 안 될 것”이라고 했다.

[미디어오늘 바로가기][미디어오늘 페이스북]
미디어오늘을 지지·격려하는 [가장 확실한 방법]