[중앙시평] AI 규제, EU 방식은 정답이 아니다

박상철 서울대 법학전문대학원 교수

인공지능(AI)은 일시적 유행이 아니고 범용기술로 다양한 분야에 적용돼 미래사회의 판도를 바꿀 것이 확실시된다. 올해를 기점으로 챗GPT 등 사람의 추론을 흉내 내는 대규모 언어모델이 대중화되면서 AI는 이제 연구실을 뛰쳐나와 공론의 장에 올라섰다. 지난달엔 샘 올트먼 오픈AI 최고경영자(CEO)가 해고됐다가 복귀하는 사건이 있었다. 이번 해프닝에서 보듯 AI의 인류 지배를 저지하자는 비관론자(Doomer)와 AI는 통제 가능하니 더 열심히 개발하자는 낙관론자(Boomer)의 논쟁과 갈등이 고조되고 있다. 이에 맞물려 AI의 법적 통제 방안에 대해 분분한 의견들이 제시되고 있다.

마침 지난 9일 유럽연합(EU)은 ‘인공지능법(AI Act)’ 입법의 사실상 최종 관문인 유럽집행위원회(EC)·유럽의회(EP)·유럽연합이사회의 3자 합의를 마치며 먼저 치고 나갔다. 앞서 행정부에 해당하는 EC가 2021년 법안을 발의했고, 하원에 해당하는 EP가 지난 6월 가결했다. 이번 합의안은 문구 수정을 거쳐 EP와 상원에 해당하는 이사회가 가결하면 입법이 확정된다. 세계 최초의 포괄적 AI 규제법이 눈앞에 다가온 것이다.

■

「 AI 법적 통제 방안 놓고 해법 다양
EU, 일률 규제 담은 인공지능법안
글로벌 스탠더드가 되기는 어려워
한국이 혁신친화적 규범 주도해야
」

대한민국도 서둘러 법을 통과시키자는 목소리가 들린다. 한국도 EU 법안을 모방한 법안들이 국회에 제출됐고, 국회 과학기술정보방송통신위원회(과방위) 소위가 지난 2월 7개 법안을 통합한 대안을 의결해 심의 중이다. 그러나 EU의 접근 방식은 획기적 대안이 못 된다. 한국·캐나다·브라질이 EU를 따라한 입법을 추진 중이지만, 글로벌 스탠더드가 될 가능성은 희박하다.

EU 법안은 모든 AI에 같은 문제가 있다는 전제에 따라 ‘고위험’으로 분류되면 방대한 규제를 일률적으로 가하는 수평적 체계다. 그러나 AI는 어떻게 사용되는지에 따라 다른 문제를 발생시킨다. 채용 및 신용평가 AI는 불투명하거나 차별적일 수 있고, 자율주행차·승강기 AI는 안전이 우려될 수 있다. 의료 AI는 부정확해서 오진을 유발할 수 있고, 생성형 AI는 권리를 침해하거나 속이는 데 오용될 수 있다. 문제가 제각각이니 맞춤형·핀셋형 처방으로 다스려야 한다. 그런데 EU는 이들 중 어느 하나만 해당하면 공정·투명·안전·정확·견고성 규제를 일제히 퍼붓는 백화점식·저인망식 규제 체계다. 세부 조항에도 문제가 많다. AI에 투입하는 데이터에 관련성·대표성·무오류성·완전성을 요구한다. 쓸 수 있는 데이터의 부족이 가장 큰 문제인데 이를 외면했다. 책자 분량의 기술자료를 만들어 인증받지 못하면 출시도 못 하게 했다. 로펌·인증업체 등 규제 생태계의 배만 불릴 일이다.

그래서 AI 선도국인 미국·영국·이스라엘·스위스는 혁신친화적·맥락특유적 규제 체계를 추진하며 EU와 대립 중이다. 미국과 영국은 AI의 용례별로 문제를 배치한 뒤 맞춤형 처방을 마련하고, 부처별로 소관 법령을 정비하면서 국무 조정을 통해 정연하게 조율하는 규제 체계를 제시한다. 조 바이든 미국 대통령은 지난 10월 30일자 행정명령에서 이런 접근법을 구체화하면서 AI를 단순한 산업정책이 아닌 안보 문제로 보겠다는 입장을 분명히 했다. 미국과 영국의 AI 규제 체계는 두 나라의 위상과 규제 품질 때문에 EU 법안을 제치고 글로벌 스탠더드가 될 가능성이 높아 보인다. EU가 고강도 AI 규제법을 밀어붙이는 것에는 미국 빅테크 공세에 EU의 IT기업들이 정면승부할 가망이 없으니 규제로 시간을 벌면서 반전을 노리겠다는 계산이 깔렸다.

그렇다면 AI 투자액이 세계 6위 수준인 한국은 어떤 선택을 해야 할까. 과학기술정보통신부는 과방위에 계류 중인 AI 법안 수정안이 EU식 체계가 아니며 혁신과 규제를 조화했으니 서둘러 통과시키자는 입장이다. 실제 과기정통부는 더 EU식으로 규제하라는 야당 및 시민단체와 힘겹게 타협해 원안의 불합리를 완화하고 진흥 조항을 포함했다. 그러나 AI는 국내법만의 문제가 아닌 외교·안보 문제의 중심에 놓여 있다. 한국의 수정안을 보면 EU식 고위험 영역 AI 분류, 수평적 규제체계, 핵심 개념은 여전하다. 결국 EU가 미국 빅테크를 때려잡겠다며 만든 법안의 축약본 정도로 비칠 것이다. 한 번 체계가 자리 잡으면 EU의 규제가 계속 밀려들어 오며 혁신 역량을 갉아먹게 된다.

대안은 무엇인가. 올해 거둔 외교·안보 분야 성과 덕분에 내년에 한국이 AI 글로벌 포럼, AI 안전성 정상회의 버추얼 서밋, AI 군사적 이용 고위급회의를 개최할 예정이다. AI 국제규범 논의를 주도할 기회다. 미국과 영국 등 AI 선도국들과 밀착 공조하는 과정에서 자연스레 한국 국내법의 방향성도 도출될 것이다. 외교·안보적으로는 혁신친화적 국제규범을 제안하면서 정작 국내에선 EU식 법을 통과시킨다면 제대로 조율된 나라로 보이기 어렵다. AI 법안의 졸속 통과를 미루고 내년에 본격적으로 진행될 국제규범의 제안 작업과 병행하는 것이 지혜로운 선택이다.

박상철 서울대 법학전문대학원 교수