"정부, AI 검증·조사·집행 역량 확보해야"

입법조사처, 입법 논의 보고서

인공지능(AI) 규제 실효성을 확보하기 위해서는 정부의 AI 관련 검증, 조사, 집행역량을 확보해야 한다는 주장이 나왔다. AI 기술 발전 속도 및 파급효과를 예상하기 어려운 만큼, 고위험 AI에 대한 정부의 관리·감독 법제화가 시급하다는 지적이다.

9일 업계에 따르면 국회 입법조사처는 최근 발표한 '이슈와 논점'을 통해 'AI의 공정성·책임성·투명성·윤리의식(FATE)을 위한 입법 논의 동향과 시사점'을 제시했다. 이슈와 논점은 국회의원 입법 활동을 지원하기 위해 발행되는 보고서다.

입법조사처 사회문화조사실 과학방송통신팀은 이번 보고서에서 "AI 시스템의 FATE에 대한 규제가 어느 정도 필요하다는 점에 대해 사회적 합의가 도출되고 있는 것으로 보인다"며 "(AI 학습에 필요한) 데이터 출처 및 품질을 점검하고 AI 시스템의 기능과 보안을 평가하는 내부 거버넌스를 구축, 그 위험을 평가해 경감 조치를 취하도록 하는 방향의 입법이 논의되고 있다"고 밝혔다.

입법조사처 사회문화조사실 과학방송통신팀은 "EU AI법은 사람의 안전, 생계, 권리에 명백한 위협으로 간주되는 AI 시스템은 금지하고 고위험에 해당하는 AI 시스템에는 위험관리 시스템 운영, 위험과 차별 결과를 최소화하는 데이터 마련, 결과의 추적성을 보장하기 위한 자동로그생성, 위험에 대한 정보 제공, 기본권 영향평가 등의 의무를 부여함으로써 FATE를 구체화하고 있다"고 설명했다.