[팩플] “AI 개발부터 폐기까지 투명성 보장”…美·EU AI 조약 서명

사진 게티이미지

미국, 영국, 유럽연합(EU) 등이 인공지능(AI) 사용에 관한 국제 조약(treaty)에 서명했다. 개별 국가가 아닌 다수의 국가가 합의한 AI 관련 최초의 조약. 향후 개별 국가들이 AI 규제법을 만들 때 이 조약이 기준이 될 수 있다는 분석도 나온다.

5일(현지시간) 유럽 의회는 ”인권, 민주주의 등의 가치에 맞게 AI를 개발하고 사용하는 것을 목표로 하는 조약에 서명했다“며 “AI 시스템 전체를 포괄하는 법적 틀을 제공하게 될 것”이라고 밝혔다. EU가 주도한 이 조약은 AI의 개발부터 배포, 폐기까지의 모든 과정을 포함한다. AI 작동 방식에 대한 투명성을 보장하고, AI 시스템이 불평등이나 차별을 조장하거나 심화시키지 않도록 해야 한다는 내용이 골자다.

조약에 따르면 서명한 국가들은 AI로 인한 잠재적인 피해를 줄이기 위한 위험 평가 체계를 개발해야 한다. 협약 의무 준수 여부를 감시하기 위한 독립적인 감시 기구 설치도 권고하고 있다.

다만 조약의 법적 구속력이 약하다는 지적도 나온다. 위반시 벌금 등 제재 수단이 딱히 없어서다. 파이낸셜타임스(FT)는 “조약 준수 여부는 모니터링을 통해 측정되는데 법 집행 강제력이 약하다”고 보도했다.

지난 5일 통과된 세계 최초의 AI 조약 '인공지능과 인권, 민주주의 및 법치에 관한 유럽평의회 기본 협약'. 사진 유럽연합 홈페이지 캡처

━

이게 왜 중요해

전 세계 사용자에게서 나온 데이터로 학습하고, 사용량도 전 세계에 걸쳐 늘고 있는 AI의 특성상 한 국가 안에서만 이뤄지는 규제는 한계를 가진다. 지난달 1일 유럽은 세계 최초로 인공지능 법(AI ACT)을 발효했지만, 메타나 애플은 규제 위험이 있는 유럽에서 서비스 출시 등을 미루며 규제를 피해가고 있다. 메타는 오픈소스 AI 모델인 ‘라마 3’를 유럽에선 출시하지 않았고, 애플 역시 새로운 AI 기능인 ‘애플 인텔리전스’의 유럽 출시를 보류했다.

그러나 최근 각 국가에서 자체적으로 AI 규제 법안을 입법하려는 움직임이 커지면서 빅테크들 입장에서도 마냥 회피할 수만은 없게 됐다. 실리콘밸리가 있는 미국 캘리포니아주 의회에서는 지난달 AI 규제 법안인 ‘SB1047’이 통과돼 주지사의 서명만 남겨두고 있다. 일본은 내년 정기국회에 AI 규제 법안을 제출하고 2026년 전면시행할 예정이다. IT 매체 더 버지는 “이번 조약이 앞으로 개별 국가들이 자체 AI 법률을 개발하는 데 청사진 역할을 할 것”이라고 분석했다.

권유진 기자 kwen.yujin@joongang.co.kr