EU ‘세계 최초’ AI 규제법 발효···2년 후 전면 시행

AI기술 위험도 따라 4단계로 규제
위반 시 최대 516억원 과징금 부과

벨기에 브뤼셀 유럽연합 집행위원회. EPA연합뉴스

[서울경제]

유럽연합(EU)이 세계 최초로 제정한 포괄적인 인공지능(AI) 기술 규제법이 1일(현지시간) 발효됐다. 앞으로 EU에서는 종교적 신념, 성적 취향 등 인권침해적 요소를 지닌 AI 서비스가 전면 금지된다.

EU 행정부 격인 집행위원회는 이날 "AI법은 인간의 기본권을 보호하기 위한 안전장치를 포함해 EU에서 개발·사용되는 AI의 신뢰성을 보장하기 위해 설계됐다"고 취지를 설명했다. 앞서 EU는 지난 5월 관련 법을 최종 승인했다.

AI 규제법은 특정 제품이나 분야에서 AI 기술을 활용할 때 발생할 수 있는 위험 정도에 따라 4단계로 나눠 차등 규제한다. 부정적 영향을 줄 위험이 높을수록 더 엄격한 규제가 적용되는 방식이다. 의료, 교육, 선거, 핵심 인프라 등에 활용되는 AI 기술은 고위험 등급으로 분류돼 사람이 AI 사용을 반드시 감독해야 하며 위험관리시스템도 구축해야 한다.

인간의 기본적 권리를 침해할 가능성이 있는 AI 기술 활용은 원천적으로 금지된다. 금지 대상에는 AI를 활용한 개인의 특성·행동과 관련된 데이터로 개별 점수를 매기는 관행인 사회적 점수 평가(social scoring·소셜 스코어링), 인터넷이나 폐쇄회로(CC)TV에서 얼굴 이미지를 무작위로 수집해 데이터베이스를 구축하는 행위 등이 포함된다. 법 집행기관에서 실시간 원격 생체인식 시스템을 사용하는 것도 극히 예외적인 경우를 제외하고는 금지된다.

챗GPT를 비롯한 범용 AI(AGI·사람과 유사한 수준 또는 그 이상의 지능을 갖춘 AI)에 대해서는 AI 학습과정에 사용된 콘텐츠를 명시해야 하는 등 투명성 의무가 부여된다. AI 기술 관련 잘못된 정보를 제공하는 경우 전 세계 연 매출의 1.5%를, 의무 규정 위반 시 3%의 과징금이 각각 부과될 수 있다. 금지된 AI 애플리케이션 사용으로 적발될 경우 최대 7%의 과징금을 부과할 수 있다. 벌금 상한선은 3500만 유로(약 516억 2900만 원)다.

이날 발효를 기점으로 원천 기술 금지 규정은 6개월 뒤부터, 범용AI에 대한 의무 규정은 12개월 뒤부터 적용된다. 전면 시행은 2년 뒤인 2026년 8월부터다.

최성욱 기자 secret@sedaily.com