EU, 세계 첫 ‘AI 규제법’ 시행키로… “의료·자율주행 AI 등 고위험 등급 규제”

챗GTP 등을 규제하는 세계 첫 포괄적 인공지능(AI) 규제법이 유럽연합(EU)에서 시행되기로 확정됐다.

EU 교통·통신·에너지이사회는 21일(현지시간) 벨기에 브뤼셀에서 열린 회의에서 ‘AI 법’을 최종 승인했다고 AFP통신 등이 보도했다.

이에 앞서 유럽 의회는 지난 3월 AI법을 통과시켰다.

사진=게티이미지뱅크

법은 관보 게재를 거쳐 다음달 발효된다. 발효 6개월 뒤부터 금지 대상 AI 규정이 우선 시행되며 12개월 이후부터는 범용AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)에 대한 규제가 시행된다. 2026년 이후에는 전면 시행된다. 

EU는 “이 법이 유럽에서 AI 기술의 잠재력을 활용하는 동시에 AI의 위험으로부터 시민을 보호할 것”이라고 밝혔다. 

이 법은 AI 활용 위험도를 크게 네 단계로 나눠 시스템의 위험도가 높을수록 엄격하게 규제한다.

가장 고위험 등급은 의료, 교육을 비롯한 공공 서비스나 선거, 핵심 인프라, 자율주행 등에 사용되는 AI 기술이다. 사람이 AI 사용을 반드시 감독하도록 하고 위험관리시스템을 구축해야 한다.

일부 AI 기술 활용은 EU 역내에서 원천 금지된다. AI를 활용한 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 사회적 점수 평가(소셜 스코어링), 인터넷이나 폐쇄회로(CC)TV에서얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등이다.

법 집행기관이 실시간 원격 생체인식 시스템을 사용하는 것도 원칙적으로는 규제 대상이다. 예외적으로 강간·테러와 같은 중대 범죄 예방이나 용의자 수색에 활용할 수 있지만 사법당국의 사전 또는 사후 승인을 받아야 한다.

범용 AI를 개발하는 기업은 EU 저작권법을 반드시 준수하도록 하고 AI 학습과정에 사용된 콘텐츠를 명시하는 등의 ‘투명성 의무’가 적용된다.

EU는 집행위 연결총국 산하에 ‘AI 오피스’를 신설해 AI법 집행을 총괄하도록 할 계획이다. 위반 사항 적발 시 최대 전세계 매출액의 7%가 과징금으로 부과될 수 있다.

마티유 미셸 벨기에 디지털화 담당 장관은 “AI 법안을 통해 유럽은 신기술을 다룰 때 신뢰, 투명성, 책임의 중요성을 강조하는 동시에 빠르게 변화하는 기술이 유럽의 혁신을 번성하고 촉진할 수 있도록 보장합니다"라고 말했습니다. .

AI법은 2021년 초안이 발의됐다. 이후 챗GPT 등 생성형 AI 등장으로 부작용 발생에 대한 우려가 확산하면서 입법에 속도가 붙었다.

백소용 기자 swinia@segye.com