EU, '세계 최초' AI 규제법 발효...차등 규제 이뤄진다

사진=연합뉴스

[파이낸셜뉴스] 유럽연합(EU)이 세계 최초로 제정한 '포괄적 인공지능(AI) 규제법'이 1일(현지시간) 발효됐다.

EU 행정부 격인 집행위원회는 이날 "AI법은 인간의 기본권을 보호하기 위한 안전장치를 포함해 EU에서 개발·사용되는 AI의 신뢰성을 보장하기 위해 설계됐다"고 전했다.

이 법에 따르면 특정 제품이나 분야에서 AI 기술을 활용할 때 발생할 수 있는 위험 정도에 따라 네 단계로 나눠 차등 규제가 이뤄진다. 부정적 영향을 줄 위험이 높을수록 더 엄격한 규제가 적용된다.

의료, 교육, 선거, 핵심 인프라 등에 활용되는 AI 기술은 고위험 등급으로 분류돼 사람이 AI 사용을 반드시 감독해야 하고, 위험관리 시스템을 구축해야 한다.

인간의 기본적 권리를 침해할 가능성이 있는 AI 기술 활용은 원천 금지된다. AI를 활용한 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 사회적 점수 평가(social scoring·소셜 스코어링), 인터넷이나 폐쇄회로(CCTV)에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등이 여기에 해당한다.

아울러 실시간 원격 생체인식 시스템을 사용하는 것도 극히 예외적인 경우를 제외하고는 금지된다. 챗GPT를 비롯한 범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)에 대해서는 AI 학습과정에 사용된 콘텐츠를 명시해야 하는 등 투명성 의무가 부여된다.

이날 발효를 기점으로 원천 기술 금지 규정은 6개월 뒤부터, 범용 AI에 대한 의무 규정은 12개월 뒤부터 적용된다. 전면 시행은 2년 뒤인 오는 2026년 8월부터다.

집행위에 따르면 AI 기술과 관련해 잘못된 정보를 제공하는 경우 전 세계 연 매출의 1.5%를, 의무 규정 위반시 3%의 과징금이 각각 부과될 수 있다. 금지된 AI 애플리케이션 사용으로 법을 위반하는 경우에는 최대 7%의 과징금이 부여될 수 있다.

hippo@fnnews.com 김찬미 기자