EU시장 진출 'AI 안전인증' 필수될 것

'유럽연합 AI법' 해설서 펴낸 박노형 고려대 명예교수
자율주행·의료등 고위험AI
기본권 침해여부 검증·심사
기술규제 아닌 '제품안전법'
과태료 기준 韓의 2000배
EU가 정하면 곧 세계표준
韓기업들 발빠른 대처 필요

"인공지능(AI) 시대에는 데이터를 확보하기 위한 기업들의 경쟁이 훨씬 치열해질 겁니다. 개인정보는 더욱 침해될 가능성이 높습니다."

국제통상과 개인정보보호법 분야 대가인 박노형 고려대 로스쿨 명예교수가 최근 매일경제 인터뷰에서 이같이 말했다. 그는 AI가 인간의 안전은 물론 기본권까지 침해하는 것을 막기 위해 세계 주요국 정부들이 규제 시스템을 마련하기 시작했다며 한국 기업도 대비가 필요하다고 강조했다. 박 교수가 최근 집필한 '유럽연합(EU) AI법 개론'은 올해 EU가 세계 최초로 시행한 포괄적인 AI 규제법을 전반적으로 다룬 국내 첫 도서다.

박 교수는 AI의 성패가 데이터의 양과 질에 달려 있다는 점에서 정보 보안의 중요성이 더욱 커질 것으로 예상했다. 그는 "산업 발전 관점에서 보면 기업들은 점점 정보 수집과 처리를 쉽게 하고 싶어하고 결국 개인정보는 더 침해된다"고 말했다. 그런데 이 같은 구조적 정보 침해는 개인이 대응할 수 있는 사안이 아니다. 그는 "쿠팡 사례에서 볼 수 있듯 정보가 유출됐다고 해서 개인이 할 수 있는 것이 없다"며 "결국 통제를 하려면 정부와 기업에서 체계를 갖춰야 한다"고 말했다.

EU AI법 역시 이처럼 AI가 인간 기본권을 침해하는 것을 막기 위해 만들어졌다는 설명이다. 박 교수는 "AI가 사람의 능력을 능가하면서 기본권을 침해할 수 있다는 것은 이제 정해진 것"이라며 "AI를 잘 활용하는 동시에 어떻게 규제할 것인지 균형을 맞추는 것이 중요하다"고 말했다.

EU는 AI 시스템을 위험 정도에 따라 수용 불가능한 위험(Unacceptable Risk), 고위험(High-Risk), 제한적 위험(Limited Risk), 최소 위험(Minimal Risk) 등 4단계로 분류한다. 수용 불가능한 위험은 실시간으로 사람을 인식하거나 사람들의 취약성을 발견해 활용하는 것으로 애초에 금지돼야 하는 기능이다. 고위험은 자율주행이나 의료 관련 정보 처리처럼 인간에게 유익한 기능은 제공하지만 통제가 필요한 분야다. EU AI법은 이 '고위험 AI'에 규제 역량을 집중하고 있다.

박 교수는 AI법을 단순히 기술 규제가 아닌 '제품안전법'으로 받아들여야 한다고 강조했다. 그는 "자동차, 선박, 항공기, 장난감처럼 사람의 건강이나 안전에 위험을 줄 수 있는 제품을 규정하는 법이 제품안전법"이라며 "사람의 안전뿐만 아니라 기본권까지 침해하지 않는 제품이라는 증명이 있어야 EU에 수출할 수 있다는 의미"라고 말했다. 한국 제조기업 역시 앞으로 EU에 제품을 수출하기 위해서는 해당 규정을 체화해야 한다는 것이다.

올해 시행을 앞두고 있는 한국 AI 기본법에 대해서는 EU에 비해 '산업 진흥'에 보다 초점을 맞추고 있다고 평가했다. 한국이 EU의 수용 불가능한 위험은 규정하지 않고, 고위험 개념에 대응한 '고영향' 개념을 채택했다는 것이다. 그러면서 사후적으로 문제가 발생하기 전까지는 규제의 사각지대가 발생할 수 있다는 맹점이 있다고 설명했다.

박 교수는 "한국 법의 가장 독특한 특징은 고영향 AI 해당 여부를 확인하는 절차가 의무가 아닌 사업자의 요청에 의한 확인 형식이라는 점"이라며 "EU가 자체 적합성 평가 또는 인증 기관 평가를 강제하는 것과 달리 한국은 정부의 행정 서비스를 통한 불확실성 해소에 중점을 두고 있다"고 말했다.

이어 한국 규제가 EU에 비해 의무 규정이 약할지라도 한국 기업이 EU의 AI법을 이해하는 것은 필수적이라고도 덧붙였다. 박 교수는 "EU AI법의 벌칙 규정은 한국에 비해 2000배는 더 세다"며 "개인정보보호법에서도 그랬듯 EU의 규정이 전 세계 표준이 될 가능성도 높기 때문에 기업들은 최대한 빠르게 EU AI법을 공부하고 준수하기 위해 노력해야 한다"고 말했다.

[강인선 기자 / 사진 김호영 기자]