EU, 세계 첫 'AI법' 확정…이사회 최종 승인

"AI 규제 글로벌 표준" 강조…생성형 AI 투명성 의무 등 부여

(지디넷코리아=김익현 미디어연구소장)세계 첫 인공지능(AI) 규제법으로 관심을 모으고 있는 유럽연합(EU)의 AI법이 마침내 최종 확정됐다.

유럽이사회는 21일(현지시간) AI법을 최종 승인했다고 테크크런치를 비롯한 주요 외신들이 일제히 보도했다. 이에 앞서 유럽 의회는 지난 3월 AI법을 압도적인 찬성으로 통과시켰다.

보도에 따르면 유럽이사회는 이날 “AI법은 전 세계 최초 사례로 획기적인 법이다”면서 “앞으로 AI 규제에 관한 글로벌 표준을 만들 수 있을 것이다”고 의미 부여했다.

유럽이사회의 최종 승인을 받은 AI법은 앞으로 관보에 게재되며, 20일이 경과한 후에는 공식 발효된다.

유럽연합(EU)기. (사진=픽사베이)

■ 2021년 첫 발효…얼굴인식 기술 사용도 엄격 제한 

EU가 처음 AI법을 발의한 것은 지난 2021년이었다. 이후 격렬한 토론 과정을 거친 끝에 2023년 12월 초 유럽의회와 유럽이사회, 유럽연합집행위원회(EC)의 최종 합의안을 이끌어내는 데 성공했다.

당시 EU 주요 기구들은 안면인식 기술 사용 등을 놓고 의견이 팽팽하게 갈렸다. 또 챗GPT나 구글 바드 같은 파운데이션 모델 규제 방법을 놓고도 서로 이해관계가 엇갈려 공방을 벌이기도 했다.

하지만 결국 합의안을 이끌어낸 데 성공하면서 역사적인 AI법의 토대를 마련하게 됐다.

EU의 AI법이 본격 적용될 경우 챗GPT 같은 생성 AI 개발 업체에 대해선 투명성 의무가 강화된다. 생성형 AI 기술은 시장에 내놓기 전에 투명성 의무를 준수하도록 의무화했다. 또 ‘딥페이크’ 같은 이미지는 반드시 AI로 생성했다는 사실을 밝히도록 했다.

챗GPT 플러스.

생성형 AI 관련 조항은 2021년 ‘AI법’이 처음 발의될 때는 포함되지 않았다. 하지만 이듬 해 챗GPT가 각광을 받으면서 오남용 우려가 확산되자 입법 과정에서 생성 AI 관련 조항들이 추가됐다.

자율주행차 같은 고위험 기술을 사용하는 기업들 역시 데이터를 공개해야만 한다. 이와 함께 안전 강화를 위해 엄격한 테스트를 거치도록 했다.

핵심 쟁점 중 하나였던 얼굴인식 기술 사용도 엄격하게 제한하기로 했다. 이에 따라 테러범 추적이나 국가 안보 같은 꼭 필요한 경우 외에는 얼굴인식 기술을 사용할 수 없도록 했다.

금지 규정을 위반할 경우에는 최대 3천500만 유로(약 500억원) 혹은 세계 매출 7%에 해당하는 벌금을 내야 한다.

■ 회원국 합의 과정에선 몇몇 국가가 강력 반발하기도 

지난 2월엔 회원국 합의 과정을 거쳤다. 하지만 이 과정도 순탄치는 않았다. 당시 오스트리아는 데이터 보호 규정에 대해 문제를 제기한 반면 독일과 프랑스는 챗GPT나 바드 같은 선진 AI 모델들이 EU AI 기업들을 무력화할 수 있다고 경고했다. 이탈리아도 시종일관 AI법에 대해 침묵하면서 한 때 합의안 도출에 대한 의구심이 제기되기도 했다.

하지만 EC가 독일, 프랑스, 오스트리아 등이 관심 갖는 부분에 대한 공식 선언을 포함시키기로 하면서 찬성 진영으로 돌아서게 됐다.

이런 과정을 거친 끝에 유럽의회 표결까지 통과한 데 이어 이번에 유럽이사회 승인을 받으면서 마지막 관문을 넘어가게 됐다.

김익현 미디어연구소장(sini@zdnet.co.kr)