AI 속도전, 우려가 쏟아졌다…시민사회·전문가, 국가 AI 행동계획 전면 보완 촉구 [세상&]

시민사회, ‘국가 AI 행동계획안’ 의견서 공개
“속도전도 좋으나 민주적 통제·안전 장치 필요”

8일 참여연대 아름드리홀에서 국가AI행동계획안 민주적 통제 장치 마련 촉구 기자설명회가 열린 모습. 정주원 기자

[헤럴드경제=정주원 기자] 정부가 추진 중인 국가 인공지능(AI) 행동계획을 두고 시민사회가 “산업 육성에만 속도를 내고 이에 상응하는 점검·통제 장치는 빠져 있다”며 전면 재검토를 촉구했다.

시민사회단체들은 8일 서울 종로구 참여연대 아름드리홀에서 기자설명회를 열고 정부가 내놓은 국가 AI 행동계획안에 대한 공동 의견서를 공개하며 “빠른 개발이 필요하다는 점은 인정하지만 그 속도를 감당할 안전장치와 민주적 통제가 빠져 있다”고 비판했다.

김희순 참여연대 권력감시국 1팀장은 “AI 경쟁력 강화 자체를 부정하는 것이 아니라 그 과정에서 시민의 기본권과 안전을 점검할 장치가 보이지 않는 것이 문제”라며 “방대한 국가 AI 행동계획의 구조적 문제를 짚고 보완을 촉구하기 위해 의견서를 제출했다”고 밝혔다.

이번 논란은 대통령 직속 국가인공지능전략위원회가 지난해 9월 출범한 이후 12월 16일부터 이달 4일까지 AI 액션플랜 98개 과제를 공개하고 단 20일간 의견수렴을 진행하면서 불거졌다. 시민사회 측은 “연말연시 휴일을 제외하면 실제 검토 기간이 12일에 불과했다”며 “AI 3대 강국을 목표로 한 속도전이 충분한 사회적 검증과 숙의를 압도하고 있다”고 지적했다.

“빠르게 가더라도, 중간에 멈춰 점검할 장치가 필요하다”

기자회견에서 제기된 문제의식은 ‘속도’와 ‘점검’의 불균형이었다. 오병일 디지털네트워크 대표는 “행동계획은 한 국가의 AI 전략이라기보다 특정 기업의 AI 사업 계획처럼 보인다”며 “위험한 AI를 먼저 도입하고 문제가 생기면 사후 규제하겠다는 접근은 시민의 안전과 인권을 시험대에 올리는 것”이라고 비판했다. 오 대표는 “AI 오류와 편향은 악용이 아니라 시스템 자체의 문제인데, 이를 통제하거나 책임을 묻는 구조가 없다”고 지적했다.

개인정보와 데이터 활용 문제 역시 같은 맥락에서 도마 위에 올랐다. 이지은 참여연대 공익법센터 선임간사는 “행동계획은 AI 개발을 이유로 개인정보를 원본 그대로 활용하는 방향을 전제로 깔고 있다”며 “기술 발전 속도에 맞춘 점검 장치 없이 개인정보 자기 결정권을 낮추는 것은 헌법적 권리를 후퇴시키는 선택”이라고 말했다.

공공 분야 AI 도입에 대해서는 이미 점검 장치 부재의 위험이 현실화하고 있다는 지적이 나왔다. 장여경 정보인권연구소 상임이사는 “서울시 일부 자치구의 지능형 CCTV 탐지 정확도가 10%대에 불과한데도 공공 분야 전반으로 AI 도입이 확산하고 있다”며 “이 상태에서 속도만 더 높이면 시민 피해가 누적될 수밖에 없다”고 말했다.

AI 교육분야 도입에 관한 제언 문구. [연합]

다른 영역에서도 같은 우려가 이어졌다. 노동계는 AI가 고용 축소의 명분으로 사용되고 있다고 지적했고 국방 분야에 대해서는 “인간의 생사 판단을 AI에 맡길 수 있는지에 대한 사회적 합의가 전혀 없다”는 문제 제기가 나왔다.

전문가들은 이러한 비판의 핵심을 ‘속도를 늦추라는 것이 아니라, 속도에 맞는 점검 구조를 만들라는 요구’라고 정리했다. 이재성 중앙대학교 소프트웨어대학 AI학과 교수는 “AI 발전과 개인정보 보호는 구조적으로 충돌할 수밖에 없다”며 “문제는 그 균형점을 얼마나 심사숙고해 설정했느냐인데 이번 정책은 목표를 먼저 던지고 점검 장치는 뒤따라오지 못하는 인상을 준다”고 말했다.

이 교수는 이어 “AI 3강을 목표로 빠르게 가는 것이 불가피하다면, 중간 단계마다 조정할 수 있는 마일스톤(이정표)과 점검 장치를 함께 설계해야 부작용을 줄일 수 있다”고 강조했다.

시민사회는 이번 의견서가 형식적 절차에 그치지 않고 실제 정책 설계에 반영될 때까지 문제 제기를 이어가겠다고 밝혔다. 김 팀장은 “규제 혁신이라는 이름으로 속도만 강조하면 그 비용은 결국 시민의 기본권과 안전으로 돌아온다”며 “AI를 어떻게 쓸 것인가에 앞서서 어떤 사회를 만들기 위해 AI를 쓰는지에 대한 합의와 공론장이 먼저 필요하다”고 말했다.