커지는 AI 위협에…美·EU·英, 첫 AI 국제조약 체결 예정

AI 급성장에 기술 규제 요구 커져
인권·민주주의에 초점 맞춘 AI 협약
"법적 구속력 있어"…벌금 등 제재 無
"AI 혁신 저해" 기업들 규제 우려 제기

[이데일리 이소현 기자] 미국과 유럽연합(EU), 영국 등 인공지능(AI) 기술 개발에 앞장서는 주요 서방 국가들이 AI 사용에 관한 첫 법적 구속력이 있는 국제 조약 체결에 나선다.

(사진=게티이미지)

5일(현지시간) 파이낸셜타임스(FT)는 미국과 EU, 영국은 이날 유럽평의회가 공공 및 민간 부문 시스템의 규제 접근 방식에서 인권과 민주적 가치를 강조해 만든 AI 협약에 서명할 것으로 예상한다고 보도했다.

유럽평의회는 유럽 국가들이 인권, 민주주의, 법치를 옹호하고 보호하기 위해 1949년에 설립된 국제기구로 46개 회원국을 보유하고 있다. EU와는 다른 독립된 조직이며, 유럽 전역에서 법적 및 정치적 협력을 강화하는 역할을 하고 있다.

이 AI 협약은 유럽평의회 주도로 캐나다와 이스라엘, 일본, 호주 등을 포함한 50여개국이 참여해 2년에 걸쳐 초안을 마련했다. 서명국엔 AI 시스템의 유해하고 차별적인 결과에 대해 책임을 요구한다. 이어 AI 시스템의 결과물이 평등과 사생활 권리도 존중하도록 요구한다. 또 AI 관련 권리 침해 피해자는 법적 구제를 받을 수 있도록 규정한다.

이번 AI 협약은 AI 기술이 빠르게 성장하면서 핵·생화학 무기와 유사한 수준의 심각한 위협으로 인식되는 가운데 국제 사회가 AI 규제를 마련하기 위해 본격적으로 협력하기 시작한 중요한 첫 단계라는 평가가 나온다.

피터 카일 영국 과학혁신기술부 장관은 “AI처럼 빠르게 변화하는 혁신이 있는 만큼 전 세계적으로 이 첫걸음을 내딛는 것이 정말 중요하다”며 “이는 전 세계적으로 실질적인 힘을 가진 최초의 (협약)이며, 매우 다양한 국가들을 함께 모으는 것이기도 한다”고 말했습니다. 그러면서 “이처럼 다양한 국가들이 이 조약에 서명하려 한다는 사실은 AI가 제기하는 도전에 대해 우리가 글로벌 커뮤니티로서 대처하고 있다는 것을 보여준다”고 덧붙였다.

이번 AI 협약은 법적 구속력이 있다고 강조되지만, 벌금과 같은 제재 수단이 없다는 점은 아쉽다는 지적도 나온다. 협약 규정에 대한 준수 여부는 주로 모니터링을 통해 측정되는데 이는 상대적으로 약한 형태의 집행 방식이다.

하네 준커 유럽평의회 협상 책임자는 협약이 서명을 위해 공개될 때 10개 참가국이 처음으로 이를 승인할 것으로 예상된다고 밝혔다. 그는 “이번 협약이 유럽을 넘어선다는 것을 확인해주는 것”이라며 “서명국들이 협상에 매우 적극적으로 참여했고 결과에 만족했다는 것을 의미한다”고 강조했다.

바이든 행정부의 한 고위 관계자는 FT와의 인터뷰에서 “미국은 AI 기술이 인권과 민주적 가치를 존중하도록 보장하는 데 전념하고 있으며, 이 분야에서 유럽평의회의 핵심 가치를 보고 있다”고 밝혔다.

이 AI 국제조약은 각국이 빠르게 진화하는 AI 소프트웨어를 관리하기 위해 새로운 규제, 약속 및 협정을 개발하는 가운데 마련됐다. 여기에는 유럽의 AI법, 지난해 10월 합의된 G7 협정, 지난해 11월 영국 블레츨리 파크에서 열린 제1회 AI 안전 정상회의에서 미국과 중국을 포함한 28개국이 서명한 블레츨리 선언이 포함된다.

미국 의회는 AI 규제에 대한 광범위한 틀을 아직 통과시키지 않았지만, 많은 AI 스타트업이 포진된 캘리포니아 주의회는 최근 관련 법안을 통과시켰다. 이 법안에 대해 업계의 의견이 분분한 가운데 현재 주지사의 서명을 기다리고 있다.

지난달 발효된 EU 규제는 첫 주요 지역 법안이지만, AI 소프트웨어를 개발하는 기업들 사이에서 논란이 되고 있다. 카일 장관은 “메타는 대규모 언어모델(LLM) ‘라마(Llama)’와 같은 최신 제품을 EU에 출시하는 것을 거부하고 있다”며, “이에 개별 영토를 넘어서는 기준을 갖는 것이 매우 중요하다”고 말했다.

이번 AI 협약은 EU의 단독 규제 영향력(브뤼셀 효과)에 의존하지 않고, 다양한 국가들이 협력해 AI 기술의 안전성과 책임성을 확보하는 새로운 글로벌 표준을 만들고자 하는 시도라는 점에서 의미가 있다고 FT는 짚었다. 단일 지역 규제의 글로벌 확산보다 국제 사회의 공동 대응이 중요하다는 인식이 반영됐다는 평가다.

유럽연합 집행위원회의 베라 요로바 부위원장은 “많은 국제 파트너들이 AI 협약에 서명할 준비가 되어 있는 것을 보게 되어 매우 기쁘다”며, “새로운 프레임워크는 AI 애플리케이션의 설계, 개발 및 사용에 중요한 단계들을 설정하며, 이는 AI 혁신이 우리의 가치인 인권 보호, 민주주의 및 법치주의를 존중하고 촉진하는 데 신뢰와 확신을 가져올 것”이라고 강조했다.

이소현 (atoz@edaily.co.kr)