EU, 최초의 AI 규제법 승인…올해 말 발효 예정

AI 규제 관련 다른 정부들에 이정표 역할 예상…전 세계에 영향
인간 행동 통제에 AI 사용 금지…테러등 제외 공공장소 얼굴 스캔 금지

[보스턴(미 매사추세츠주)=AP/뉴시스]023년 12월8일 보스턴의 한 휴대폰에 챗GPT가 생성한 컴퓨터 화면 이미지에 표시된 오픈AI의 로고가 보이고 있다. 유럽연합(EU) 의원들이 13일 EU 27개국의 인공지능(AI)법을 최종 승인했다. 이 법은 올해 말 발효될 예정이다. 2024.03.13.

[런던=AP/뉴시스] 유세진 기자 = 유럽연합(EU) 의원들이 13일 EU 27개국의 인공지능(AI)법을 최종 승인했다. 이 법은 올해 말 발효될 예정이다.

유럽의회 의원들은 AI에 대한 규제가 처음 제안된 지 5년 만에 인공지능법을 압도적으로 찬성했다. EU의 AI 법은 빠르게 발전하는 AI 기술을 어떻게 규제할 것인지 고심하는 다른 정부들에 세계적 이정표 역할을 할 것으로 예상된다.

법안 초안에 대한 의회 협상의 공동대표 드라고스 투도라체는 "AI 법은 인간이 기술을 통제하고, 기술이 새로운 발견, 경제성장, 사회 발전을 활용하고 인간 잠재력을 발휘하는 데 도움이 되는, 인간 중심의 방향으로 AI의 미래를 이끌어냈다"고 말했다.

대형 기술회사들은 AI에 대한 규제 필요성을 지지하면서도 규제가 자신들에게 유리하도록 로비해 왔다. 오픈AI의 샘 올트먼 최고경영자(CEO)는 지난해 오픈AI는 AI 법을 준수할 수 없다면 유럽에서 철수할 수 있다고 제안, 소동을 일으켰었다.

▲ AI 법은 어떻게 작동하는가?
AI 법은 처음 AI 사용 제품이나 서비스에 "위험 기반 접근 방식"을 취해 소비자 안전 법안의 역할을 하려는 목적이었다.

AI 응용 프로그램이 위험할수록 더 많은 정밀조사를 받게 된다. 대다수의 AI 시스템은 콘텐츠 추천 시스템이나 스팸 필터처럼 리스크가 낮을 것으로 예상된다. 기업들은 자발적 요구 사항과 행동강령을 따르도록 선택할 수 있다.

의료기기나 물, 전기 네트워크 같은 중요한 인프라에서 AI를 위험도가 높은 방식으로 사용할 경우 고품질 데이터를 사용하고 사용자에게 명확한 정보를 제공하는 등 더 엄격한 요구 사항에 직면하게 된다.

일부 AI 사용은 사람들이 행동하는 방식을 통제하는 사회적 채점 시스템, 학교 및 직장에서의 예측 정책 및 감정 인식 시스템 같이 용인할 수 없는 위험을 초래하기 때문에 금지된다. 또 경찰이 공공장소에서 AI 기반 생체인식 시스템으로 얼굴을 스캔하는 것도 금지된다. 다만 납치나 테러 등 심각한 범죄에 대한 것은 금지에서 제외된다.

▲ 생성 AI는 어떻게 되나?
AI 법 초안은 이력서나 입사 지원서 스캔 등 제한된 업무를 수행하는 AI 시스템에 초점을 맞췄다. 그러나 오픈AI의 챗GPT가 예시하는 범용 AI 모델의 놀라운 발전은 EU 정책 입안자들을 따라잡기 위해 안간힘을 쓰게 만들었고, 겉보기에 실물과 같은 이미지 등을 만들어낼 수 있는 AI 챗봇 시스템을 뒷받침하는 생성 AI 모델에 대한 조항을 추가하게 했다.

유럽의 신생 기업부터 오픈AI 및 구글에 이르기까지 범용 AI 모델 개발자는 시스템을 교육에 사용되는 인터넷상의 텍스트, 그림, 비디오 및 기타 데이터에 대한 자세한 요약을 제공하는 등 EU 저작권법을 준수해야 한다.

AI가 만든 실존 인물, 장소, 행사 등에 대한 딥페이크 사진, 동영상, 오디오는 인위적으로 조작된 것으로 분류돼야 한다.

EU는 강력한 AI 시스템이 "심각한 사고를 일으키거나 광범위한 사이버 공격에 악용될 수 있다"고 우려하고 있으며, 또 생성 AI가 많은 애플리케이션에 "해로운 편견"을 퍼뜨려 많은 사람들에게 영향을 미칠 수 있다고 우려한다.

이러한 시스템을 제공하는 회사는 위험을 평가하고 완화해야 한다. 누군가의 죽음이나 건강, 재산에 심각한 해를 끼치는 오작동 같은 심각한 사건은 보고하고 사이버 보안 조치를 취해야 한다. 또 AI 모델이 얼마나 많은 에너지를 사용하는지도 공개해야 한다.

▲ 유럽의 규칙이 전 세계에 영향을 미치게 될까?
EU는 2019년 AI 규제를 처음 제안하면서 신흥 산업에 대한 정밀조사 가속화를 이끄는 역할을 했고, 다른 정부들은 이를 따라잡기 위해 안간힘을 쓰고 있다.

조 바이든 미 대통령은 지난해 10월 AI에 대한 전면적 행정명령에 서명했는데, 이는 입법과 글로벌 협정에 의해 뒷받침될 것으로 예상된다. 한편 최소 7개의 미국 주들이 자체 AI 법안을 마련하고 있다.

시진핑(習近平) 중국 국가주석은 AI의 공정하고 안전한 사용을 위해 글로벌 AI 거버넌스 이니셔티브를 제안했고, 당국은 중국 내 사람들을 위해 생성된 텍스트, 사진, 오디오, 동영상 및 기타 콘텐츠에 적용되는 생성 AI 관리를 위한 "중간 조치"를 발표했다.

브라질에서 일본에 이르기까지 다른 국가들과 유엔 및 주요 7개국(G7) 같은 글로벌 그룹도 AI 지침 작성에 나서고 있다.

▲ 이후 어떻게 될까?
AI법은 EU 회원국의 승인 등 몇 가지 최종 절차를 거쳐 5월이나 6월쯤 공식적으로 법으로 제정될 것으로 보인다. 규정은 단계적으로 시행되기 시작할 것이며, 각 국에서 새 법이 등록되고 6개월 후부터 금지된 AI 시스템이 금지된다.

챗봇 같은 범용 AI 시스템에 대한 규칙은 발효 1년 후부터 적용되기 시작한다. 2026년 중반까지 고위험 시스템에 대한 요건을 포함한 완전한 규제가 시행될 것이다.

집행에 관해서는 각 EU 국가가 자체 AI 감시 장치를 설치, 시민들이 규칙 위반의 희생자라고 생각하면 불만을 제기할 수 있게 한다. 한편 EU는 범용 AI 시스템을 위한 법을 집행하고 감독하는 AI 사무소를 설립할 예정이다.

AI법을 위반하면 회사 전체 매출의 7%인 최대 3500만 유로(약 504억원)의 벌금이 부과된다.

☞공감언론 뉴시스 dbtpwls@newsis.com