‘AI 규제’ 구속력 갖춘 첫 국제조약 체결 눈앞

美·EU·英 등 10개국 서명 예정
딥페이크·가짜뉴스 등 위험 확산 대응
유해하거나 차별적인 결과물 생산 땐
조약 당사국이 법적 책임 지도록 명시
권리침해 땐 피해자 구제 수단 제공도
안전성·책임성 확보 글로벌 표준 의미
구체적 제재 방안 없어 실효성엔 의문

딥페이크·가짜뉴스 등 위험이 확산하는 가운데 미국과 유럽연합(EU), 영국 등 서방 주요 국가가 인공지능(AI) 사용에 관련한 법적 구속력을 갖춘 최초의 국제 조약에 서명한다. AI와 관련해 권리 침해를 당한 피해자의 법적 구제와 관련된 내용도 담겼는데, 조약 위반에 대한 구체적인 처벌 방안이나 제재가 없어 실효성이 떨어진다는 지적이 함께 제기된다.

5일(현지시간) 파이낸셜타임스(FT)는 미국, EU, 영국 당국을 비롯해 10개국이 첫 조약 서명국으로 참여할 예정이라고 보도했다. 조약 초안은 캐나다, 이스라엘, 일본, 호주 등 50개 이상의 국가가 참여한 가운데 2년에 걸쳐 만들어졌다.

조약은 AI 기술이 유해하거나 차별적인 결과물을 생산할 경우 조약 당사국이 책임을 지도록 하는 내용을 담고 있다. AI 기술은 평등 및 사생활과 관련된 권리를 존중해야 하며, 각국은 AI 기술로 권리를 침해당한 피해자에게 법적 구제 수단을 제공해야 한다.

앞서 EU, 미국 등에서 국가별 AI 규제 방안을 발표한 바 있다. 세계 최초로 AI 규제법을 제정한 EU는 위험 수준에 따라 AI 시스템을 4단계로 분류해 차등 규제한다. AI 규제법에 따르면 의료·교육 등 공공 서비스, 선거, 핵심 인프라, 자율주행 등에 사용되는 AI 기술은 반드시 사람이 감독하고 위험 관리 시스템을 구축해야 한다. 범용 AI(AGI) 개발 기업에는 AI 학습 과정에 활용된 콘텐츠를 명시하는 등 ‘투명성 의무’도 부과됐다. 위반 시 3500만유로(약 518억원) 또는 전 세계 매출의 최대 7%라는 높은 금액의 벌금을 부과될 수 있다.

미국의 경우에는 연방 의회 차원에서 AI 규제를 위한 포괄적 법안이 아직 통과되지 않았다. 다만 AI 기업들이 포진한 실리콘밸리가 있는 캘리포이나주 의회는 업계의 반대에도 규제 법안을 통과시켰다.

AI 기업들은 이 같은 규제가 기술 혁신 속도를 늦출 것이라며 반발하고 있다. 챗 GPT 개발사인 오픈AI의 최고경영자(CEO) 샘 올트먼은 EU의 AI 규제법으로 챗GPT가 유럽에서 퇴출당할 수 있다고 우려했다. 구글, 메타 등은 캘리포니아 의회를 통과한 규제 법안이 AI 기술에 대한 광범위한 규제로 “혁신을 저해할 수 있다”고 비판하기도 했다.

이번 AI 표준 조약은 브뤼셀 효과(EU이 단독 규제 영향력)에 의존하지 않고, 다양한 국가가 협력해 AI 기술의 안전성과 책임성을 확보하려는 글로벌 표준을 만든 점에서 의미 있다는 평가가 나온다.

정부 관계자들은 조약이 긍정적인 영향력을 낼 것이라고 입을 모았다. 조 바이든 미국 행정부 고위 관계자는 FT에 “미국은 AI 기술이 인권과 민주주의적 가치 준수를 지원하도록 보장하는 데 전념하고 있다”며 “유럽회의의 핵심 가치가 추가된 것”이라고 설명했다. 피터 카일 영국 과학혁신기술부 장관은 “(이번 조약은) 전 세계적으로 강력한 영향력(real theeth)을 가진 최초의 조약이며 매우 다른 국가들을 하나로 모으는 것”이라고 평가했다. 그러면서 “이렇게 다양한 국가들이 조약에 서명하기를 희망한다는 사실은 실제로 우리가 AI가 제기하는 도전에 대해 글로벌 커뮤니티가 공감하고 있다는 것”이라고 설명했다. 유럽위원회(EC) 고위 관계자 또한 “새로운 체제는 AI 앱의 설계·개발·사용에 있어 중요한 단계를 설정한다”며 AI 혁신 시 인권, 민주주의, 법치 등의 가치를 준수해야 한다고 강조했다.

다만 벌금과 같은 제재 수단이 없어 강제력이 떨어진다는 지적도 나온다. 규정 준수 여부 역시 모니터링을 통해 측정돼 상대적으로 규제가 약할 것이라는 게 전문가들의 설명이다. FT는 “법적 구속력이 있다는 협약 홍보와 달리 협약 준수 여부는 모니터링 수준에 그친다”며 “상대적으로 약한 형태의 강제력”이라고 짚었다.

이민경 기자 min@segye.com