정부 AI법안에 "너무 위험한 AI 금지하지 않은 AI법안" 반발

장혜영 의원·14개 시민사회단체 "시민 안전, 인권 보호할 AI법 제정" 촉구

[미디어오늘 윤유경 기자]

▲장혜영 정의당 의원과 민주사회를 위한 변호사모임(민변) 디지털정보위원회, 정보인권연구소, 언론개혁시민연대, 진보네트워크센터 등 14개 시민사회단체는 14일 국회에서 '실효성없는 과방위 계류 AI 법안 폐기 및 22대 국회에서 시민 안전과 인권 보호할 AI법 제정 촉구' 기자회견을 열었다. 사진 출처=장혜영 의원실.

시민사회단체들이 현재 국회에 계류 중인 인공지능(AI) 법안을 폐기하고 22대 국회에서 안전과 인권을 보호하는 국제 기준을 반영한 AI 법안을 마련해야 한다고 주장했다.

장혜영 정의당 의원과 민주사회를 위한 변호사모임(민변) 디지털정보위원회, 정보인권연구소, 언론개혁시민연대, 진보네트워크센터 등 14개 시민사회단체는 14일 국회에서 기자회견을 열고 이같이 주장했다.

AI 기본법으로 불리는 '인공지능산업 진흥 및 신뢰기반 조성 등에 관한 법률' 제정안은 AI 기술 도입·활용 지원, AI 기술 개발·창업 지원 등 산업 육성 등 AI 산업을 진흥하고 역기능에 대응하는 내용을 담고 있다. 하지만 안정성 관련해선 실효성이 부족하다는 지적이 제기돼왔다.

지난해 국회에서 논의된 법안 초안에는 산업계 요구를 반영해 AI 산업과 관련 '우선허용 사후규제 원칙'을 담았으나 국가인권위원회가 제동을 걸었다. 현재 과학기술정보통신부는 '우선허용 사후규제' 원칙을 폐기하고 AI 산출물에 워터마크를 도입하는 방안을 포함한 수정안을 냈기에 문제가 해소됐다는 입장이다. 이종호 과기정통부 장관은 지난 8일 기자간담회에서 “(AI 기본법 수정안에) 시민단체가 제기한 우려를 모두 해소했다”며 21대 국회 내 법안 통과를 촉구했다.

그러나 시민사회단체는 14일 기자회견에서 “법안의 문제점은 '우선허용 사후규제' 조항에 그치지 않는다. 현행 AI 법안은 AI의 위험성에 대해 실효성 없는 규정을 몇 개 두었을 뿐, 모든 AI 위험 대책을 기업 자율에 맡겨두고 있다”며 “고위험 AI를 제공하거나 사용하는 사업자를 규제하거나, 너무 위험해 우리 사회가 허용할수 없는 AI에 대해서 금지하지 않았으며, 위반 시 처벌하는 규정도 두지 않았다”고 지적했다.

정부여당과 언론에서 AI 산업 경쟁에서 뒤쳐질 것이라며 위기의식을 조장하고 정작 AI 기본법에 담겨야 할 안전과 인권에 대해서는 입을 닫고있다는 지적도 나왔다. 한상희 참여연대 공동대표는 “AI에 관한 법률은 수없는 검증과 과감한 평가와 세심한 합의에 기반해야 한다”며 “실적주의에 함몰된 과기부의 편향된 틀에 따라 입법이 졸속 추진되고 있다”고 비판했다.

김병욱 민변 디지털정보위원회 변호사는 “국회에서 논의되고 있는 AI 법과 달리 최근 유럽연합에서 통과된 AI 법은 사람의 잠재의식을 이용하거나, 사람이나 단체의 취약성을 활용하거나, 실시간으로 원격 생체인식 식별시스템을 이용하는 AI 등 도저히 수용불가능한 위험성을 지닌 AI는 활용 자체를 금지하고 있다”며 “산업계의 요구만을 반영할 것이 아니라, 위험성에 대한 실질적인 규제를 포함하는 균형잡힌 법이 되어야 한다”고 했다.

오병일 진보네트워크센터 대표도 “전 세계적으로 AI 규제에 있어 위험기반 접근을 채택하고 있는 바, 국내 AI 법 역시 이를 참고할 필요가 있다. 이와 관련해 금지돼야 할 AI 및 고위험 AI의 기준 및 범위가 명확히 규정되어야 한다”며 AI에 대한 명확한 정의 및 규율을 포함해야 한다고 했다. 오 대표는 이어 “AI의 위험성과 개발 및 활용 주체의 책임성에 비례한 벌칙이 부과되어 AI 법이 실효성을 가질 수 있도록 해야 한다”고 강조했다.