시민단체 "국회 논의 중인 AI법 위험성 규제 요구 국제 규범에 역행"

국회 과방위 인공지능법률안 법안소위 통과
인권위 "우선허용·사후규제 원칙 삭제해야"
시민사회 "인권영향평가 실현 방안 마련해야"

[미디어오늘 장슬기 기자]

국회에서 논의 중인 인공지능법(인공지능 육성 및 신뢰 기반 조성 등에 관한 법률안)이 이용자들의 권리 침해 등 위험성을 고려하지 않아 규제 방안을 마련해야 한다는 주장이 이어지고 있다.

인공지능법은 지난 2021년 7월1일 정필모 더불어민주당 의원이 대표발의했고 지난 2월 국회 과학기술정보방송통신위원회 정보통신방송법안심사소위를 통과했다. 정 의원은 해당 법 제안 이유로 인간이 인공지능(AI)를 개발하거나 제공·이용할 때 지켜야 할 윤리적 원칙과 인공지능이 지켜야 할 윤리 원칙을 담았다고 했다.

국가인권위원회는 지난 24일 이 법안이 인권 침해나 차별 등 우려를 해소하지 못한다며 국회의장에게 보완이 필요하다는 의견을 냈다. 인권위는 해당 법안이 이용자와 정보 주체 권리와 권리 침해 구제 절차를 명확히 규정하고 있지 않은 점, 고위험 영역 인공지능만 규율하는 점, 고위험 영역 인공지능을 협소하게 정의하는 점, '우선 허용·사후 규제' 원칙 조항이 있다는 점 등에서 문제가 있다고 지적했다.

지난 30일 언론개혁시민연대, 진보네트워크센터, 참여연대, 투명사회를위한정보공개센터, 민변 디지털정보위원회 등 26개 단체는 “국회는 인공지능 법률안에 대한 국가인권위원회 의견을 수용하라”라는 공동 논평을 내고 “인공지능법은 위험한 인공지능을 국가적으로 금지 또는 규제하고 권리 침해를 예방하고 구제할 수 있어야 한다”며 국회가 인권위 의견을 수용해 인공지능법을 재논의해야 한다고 주장했다.

▲ 인공지능, AI. 사진=gettyimagesbank

이 단체들은 “일선 학교와 독거노인 가정에 보급되는 인공지능 스피커에도 내장될 수 있는 인공지능챗봇이, 상담을 빙자해 수집한 민감한 카카오톡 대화 문장 100억 건을 무단으로 학습하여 개인정보를 침해한 사실이 드러났고 이 챗봇은 여성, 장애인, 성소수자, 흑인 등 인권 취약 계층을 혐오하는 채팅 서비스로 많은 사회적 비판과 우려를 샀다”며 “법무부는 인공지능 식별 추적 시스템을 개발한다는 명목으로 2005년부터 출입국한 내국인과 외국인의 얼굴 정보 수억 건을 민간 기업에 넘겼으며, 네이버쇼핑과 카카오택시는 자기 회사 이익을 위해 알고리즘을 조작하면서도 그 사실을 숨겼다”고 권리 침해 사례를 나열했다.

단체들은 “그러나 인공지능의 위험성으로부터 권리 침해를 실효적으로 예방하고 구제할 수 있는 제도적 대책은 어디에도 보이지 않고 오히려 최근 정부와 국회는 인공지능 산업을 위해 규제를 완화하는 인공지능법 제정을 추진하고 있다”며 “현재 국회가 추진하는 인공지능 법률안은 인권을 보장하고 안전을 보호하지 못한다는 점에서 시민 기대를 충족하지 못함은 물론 인공지능의 위험성 규제를 요구하는 국제 규범에도 역행한다”고 지적했다.

이어 “인공지능법 추진에 가장 앞서고 있는 유럽연합은 지난 6월 의회가 초안을 수정해 금지 인공지능을 확대하고 고위험 인공지능의 투명성 의무를 촘촘히 확대하고 챗GPT와 같은 범용 파운데이션 모델의 의무도 추가했다”며 “가장 눈에 띄는 부분은 인공지능을 감독, 규제하는 국가감독기구 권한을 명확히 하고, 인공지능의 영향을 받는 사람들의 권리 침해를 예방할 수 있는 기본권영향평가를 도입했을 뿐 아니라 피해자 권리구제 조치를 규정했다”고 전했다.

이들 단체는 “국회는 독립적인 인공지능 국가 감독 체계를 수립하고, 피해자 권리 구제와 인권영향평가를 실현할 방안에 대해 적극 검토하고 우리 사회에 금지되는 인공지능이 무엇인지, 위험하지만 관리돼야 하는 고위험 인공지능은 무엇이고 어떤 의무를 부과할 것인지 국회가 사회적 토론과 합의를 촉진해야 한다”며 “인공지능을 개발하고 판매하는 인공지능 산업계의 이해관계가 중요하겠지만, 시민을 위한 규범을 수립하고 보장하는 것이야말로 지금 우리 사회가 필요로 하는 인공지능법”이라고 주장했다.

[미디어오늘 바로가기][미디어오늘 페이스북]
미디어오늘을 지지·격려하는 [가장 확실한 방법]