‘AI 위험성, 인간이 통제’… EU의회 세계 첫 규제법 통과

AI 학습 과정에 쓴 콘텐츠 명시
원격 생체인식 식별 사실상 금지

‘AI 규제법’ 찬반투표 13일 유럽의회 의원들이 프랑스 스트라스부르에서 열린 본회의에서 인공지능(AI) 규제법과 관련한 찬반투표를 하고 있다. 이날 세계 최초로 의회를 통과한 AI 규제법은 다음 달 유럽연합(EU) 27개국 장관들의 최종 승인을 거쳐 연말쯤부터 단계적으로 시행될 예정이다. AP 연합뉴스

유럽연합(EU) 의회가 13일(현지시간) 세계 최초로 ‘인공지능(AI) 규제법’을 통과시켰다.

이번 AI 규제법 최종안에 따르면 AI 활용 분야는 총 네 단계의 위험 등급으로 나뉘어 차등 규제된다. 고위험 등급인 의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에서 AI 기술 사용 시 사람이 감독하도록 하고 위험관리시스템을 구축해야 한다. 범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)를 개발하는 기업에 대해서는 투명성 의무를 부여한다. 범용 AI 업체들은 EU 저작권법을 준수해야 하며 AI의 학습 과정에 사용한 콘텐츠를 명시해야 한다. 또 광범위한 사이버 공격, 유해한 선입견 전파 등 EU가 시스템적 위험이라고 규정한 사고 발생을 방지하는 조처를 해야 한다. 별도의 정보 공개·고지 의무도 부과된다.

AI를 활용한 실시간 원격 생체인식 식별 시스템 사용도 사실상 금지된다. 성폭행·테러와 같은 중대 범죄 용의자 수색을 비롯해 예외적인 경우에 일부 허용되지만, 이 경우에도 법원의 사전 허가를 받도록 하는 등 가용 범위를 크게 제한했다. 이외에도 딥페이크 영상이나 이미지는 AI로 만든 콘텐츠라는 점을 표기하도록 했다. 또 다양한 데이터를 모아 개인을 평가하는 이른바 ‘소셜 스코어링’ 기술 활용은 원천 금지된다.

한편 이날 통과된 AI 규제법은 내달 EU 27개국 장관들의 최종 승인을 거쳐 연말쯤 일부 조항부터 단계적으로 시행될 예정이다. 법 위반 시 경중에 따라 전 세계 매출의 최대 7%에 해당하는 과징금이 부과될 수 있다.

이현욱 기자 dlgus3002@munhwa.com