“고위험 AI...정부 조사, 집행 역량 확보해야”

입법조사처, AI 공정성-책임성-투명성 등 시사점 제시
세계 첫 AI 규제법이 될 'EU AI 법안'.."F.A.T.E 구체화"

[파이낸셜뉴스] 인공지능(AI) 규제 실효성을 확보하기 위해서는 정부의 AI 관련 검증, 조사, 집행역량을 확보해야 한다는 주장이 나왔다. AI 기술 발전 속도 및 파급효과를 예상하기 어려운 만큼, 고위험 AI에 대한 정부의 관리·감독 법제화가 시급하다는 지적이다.

유럽의회는 지난 6월 유럽연합(EU) 전역에서 인공지능(AI)을 규제하기 위한 법안 협상안을 표결에 붙여 가결 시켰다. 연합뉴스

9일 업계에 따르면 국회 입법조사처는 최근 발표한 ‘이슈와 논점’을 통해 ‘AI의 공정성·책임성·투명성·윤리의식(FATE)을 위한 입법 논의 동향과 시사점’을 제시했다. 이슈와 논점은 국회의원 입법 활동을 지원하기 위해 발행되는 보고서다.

입법조사처 사회문화조사실 과학방송통신팀은 이번 보고서에서 “AI 시스템의 FATE에 대한 규제가 어느 정도 필요하다는 점에 대해 사회적 합의가 도출되고 있는 것으로 보인다”며 “(AI 학습에 필요한) 데이터 출처 및 품질을 점검하고 AI 시스템의 기능과 보안을 평가하는 내부 거버넌스를 구축, 그 위험을 평가해 경감 조치를 취하도록 하는 방향의 입법이 논의되고 있다”고 밝혔다.

우리 정부를 비롯 미국과 유럽연합(EU) 등 주요국은 윤리적 차원에서 논의했던 FATE를 일부 법제화하는 움직임을 보이고 있다.

보고서는 “각국의 개인정보와 온라인 플랫폼 관련 법률에서 개별적으로 FATE 내용을 담고 있다”면서 “AI 전반에 적용하는 규제 체계도 마련되고 있다”고 전했다. 우리 국회도 ‘AI산업 육성 및 신뢰 기반 조성 등에 관한 법률안(AI법)’이 상정돼 있다. AI법 제정방향은 AI 산업 육성과 AI 윤리 및 신뢰성 확보에 방점이 찍혀 있는 동시에 고위험 AI에 대한 정부의 관리 감독 근거가 담겨 있다.

세계 최초의 AI 규제법으로 떠오른 ‘EU AI 법안(EU AI Act)’은 현재 EU 의회, EU 집행위원회 및 이사회가 3자 협상을 진행하고 있다. 각국 정부가 EU 논의에 주목하는 이유다. EU AI 법안은 EU 시민에게 영향을 주는 시스템에 모두 적용될 것이란 게 입법조사처 분석이다.

입법조사처 사회문화조사실 과학방송통신팀은 “EU AI법은 사람의 안전, 생계, 권리에 명백한 위협으로 간주되는 AI 시스템은 금지하고 고위험에 해당하는 AI 시스템에는 위험관리 시스템 운영, 위험과 차별 결과를 최소화하는 데이터 마련, 결과의 추적성을 보장하기 위한 자동로그생성, 위험에 대한 정보 제공, 기본권 영향평가 등의 의무를 부여함으로써 FATE를 구체화하고 있다”고 설명했다.
#규제 #인공지능 #AI #입법조사처 #FATE