AI에 목숨 맡길 준비 되셨나요?…'AI 전용보험' 법안 나온 까닭 [긱스]

이 기사는 프리미엄 스타트업 미디어 플랫폼 한경 긱스에 게재된 기사입니다.

해외 테크업계에선 'AI 윤리'가 핫이슈입니다. 한국에서도 AI법 제정 논의가 급물살을 타고 있습니다. 국회 과학기술정보통신방송위원회 법안소위는 첫 발의 후 2년 넘게 계류돼 있던 AI 제정법안을 최근 통과시켰습니다.

하지만 일부 시민단체가 이 법안에 반대 입장을 내면서 논의가 주춤해졌고 그 사이 다른 내용이 추가된 법안이 발의됐습니다. AI 산업 육성을 위해 기본 제도를 서둘러 만들자는 접근과, AI의 위험요소들에 대한 규제의 근거를 구체적으로 마련하고 책임 주체를 명확히 해야한다는 주장이 맞부딪히는 모습입니다. AI 윤리와 규제 방안 논의의 현주소를 한경 긱스(Geeks)가 정리했습니다. 

'정부는 고위험 인공지능 사업자에게 고위험 인공지능 제품 또는 서비스로 인한 손해를 담보하기 위한 보험에 가입하도록 권고할 수 있다. 정부는 보험 가입을 위해 재정적 지원을 할 수 있다.(인공지능책임법 제정안 22조)'

황희 더불어민주당 의원이 발의해 지난달 24일 국회 과방위에 상정된 인공지능책임법 제장안 내용이다. 이 법안은 AI를 개발 또는 이용하는 과정에서 사람의 생명, 신체, 재산 상의 안전에 위해를 끼치거나 그럴 우려가 있다고 인정되는 AI를 '고위험AI'로 정의하고, 이를 규제할 근거를 담은 게 핵심이다. 

황 의원 법안뿐만 아니라 국회엔 이미 AI법 제정안이 여러건 나와있다. 이미 윤두현 국민의힘 의원의 '인공지능산업 육성법 제정안'을 기본 골격으로 기존에 발의된 6개 인공지능 산업 육성 법안(이상민안·양향자안·민형배안·정필모안·이용빈안·윤영찬안)을 통합한 여야·정부 단일안(통합 과방위안)이 있다. 여기에 AI 제작 컨텐츠 표기를 의무화하는 컨텐츠산업진흥법 개정안(이상헌안), AI 채용절차의 공정성을 보장하는 채용절차법 개정안(소병철안)까지 있다. AI 윤리가 어떻게 확보되고 규제가 어떤 방식으로 이뤄질지 본격적인 논의가 시작된 셈이다. 

고위험 AI가 뭔데요?

지난달 24일 과방위에 올라간 황희 법안은 '고위험 AI'라는 개념을 규정한 게 특징이다. 인간의 생명, 신체 안전, 기본권의 보호에 중대한 영향을 미치는 AI다. 구체적으로 ①생체인식 ②교통, 수도 등 주요 사회기반시설 ③채용 등 인사평가 업무 ④응급서비스, 대출 신용평가 등 필수 공공 민간 서비스 ⑤수사 등 국가기관의 권한 행사 ⑥이민 등 출입국 관리 등에 사용되는 AI다.

22조엔 AI 고위험 인공지능사업자는 고위험인공지능 제품 또는 서비스 이용자에게 손해가 발생한 경우 그 손해를 배상할 책임이 있다고 적었다. 정부는 고위험 인공지능사업자에게 관련 제품 또는 서비스로 인한 손해를 담보하기 위한 보험에 가입하도록 권고할 수 있다. 법안은 관련 보험상품을 개발할 의무까지 정부에 부과했다. 

다만 국회 과방위는 검토 보고서를 통해 "인공지능은 관련 업태가 다양해 명확한 책임 소재를 파악하기 어렵다는 특성이 있다"며 "(법제화에 앞서) AI 관련 책임 및 배상 원칙에 대해 논의를 더 성숙시킬 필요가 있다"고 했다. 예컨대 인공지능 사업자라도 ①직접 개발하거나 ②개발된 것을 구입해 그대로 쓰거나 ③개발된 것을 구입해 자체 고도화하는 방식 등 활용 방식이 여러개라는 것이다. 과학기술정보통신부 역시 "인공지능은 수많은 분야에서 다양하게 활용될 수 있는 범분야적 기술"이라며 "이 법보다는 제조물 책임법, 자동차손해배상 보장법 등 기존 법률 개정을 통해 손해배상을 다룰 수 있는 방안을 우선 검토하는 게 맞다"고 했다. 

만약 이 법안이 통과되면 AI 개발·활용 회사들은 지금은 없는 규제들을 맞닥뜨리게 된다. 법안에 따르면 고위험AI 개발사업자는 중대한 위험성이 있는지에 대한 위험 평가, 개발 단계별 문서의 전자화 등을 준수해야 한다. 서비스 이용자는 고위험인공지능으로 본인에게 불이익이 발생하였는지 확인하기 위해 사업자에게 관련 자료의 제공을 요청할 수 있다. 이 경우 자료의 제공을 요청받은 사업자는 정당한 사유가 없는 한 이를 받아들여야 한다. 상임위 검토 보고서는 "AI에 대한 구체적 규제 대상과 수준에 대해 충분한 의견 수렴과 사회적 논의가 선행될 필요가 있다"고 평가했다. 

이 법안엔 관련 분쟁의 조정을 위한 인공지능분쟁조정위원회를 설치한다는 내용도 담겼다. 행정안전부는 이 조항에 대해 "기존 위원회를 활용하거나 분과위원회·전문위원회 체계로 연계하여 관련 기능을 수행하는 것이 바람직해 보인다"는 의견을 냈다. 

한국이 세계 최초로 법 제정한다는데…

황희 의원 법안 이전에 이미 상임위 법안소위에서 관련 법안들이 두 차례 논의된 적이 있다. 그렇게 만들어진 게 여야 의원 7개의 AI법안을 통합하고 과기부 측 의견까지 받아 만든 이른바 통합 단일안이다. 이 법안은 이미 법안소위를 통과해 전체회의 상정을 기다리고 있다. 핵심은 AI산업을 전략적으로 육성하기 위한 지원체계를 만드는 것이다.

법안엔 AI 신뢰성과 윤리 관련 제도도 일부 들어가 있다. AI 산업 발전을 위해 민간이 자율적으로 신뢰성을 검·인증할 수 있도록 규제 당국이 지원하는 방안이다. AI 기술 발전을 위한 대원칙으로 '우선 허용, 사후 규제' 원칙을 명문화했다. 다만 자율주행, 교통 등 시민의 안전을 위협할 수 있는 '고위험 활용 영역'을 설정했다. AI 사업자와 이용자가 지켜야 할 사항을 '인공지능 윤리원칙'으로 제정해 공표하는 내용도 담겼다. 이 법안이 당장 국회 본회의를 통과하면 세계 최초의 인공지능 제정법이 된다. 

이 법안은 순탄하게 국회 문턱을 넘을 수 있을까. 과방위 소속 의원실 관계자는 "다른 현안이 많아 의원들끼리 본격적으로 의견 검토를 해보진 않은 상황"이라면서도 "반대 의견이 나온 걸 아예 신경쓰지 않을 순 없을 것"이라고 했다. 일부 시민단체들이 해당 법안에 담긴 AI 규제가 유명무실하다며 공식적인 반대 의견을 냈기 때문이다. 2020년 4차산업혁명위원회가 인간성을 바탕으로 AI 발전을 논의하자며 의결한 'AI 윤리기준'에서 크게 발전한 게 없다는 것이다. 해당 기준은 자율 규범 수준에 그쳐 한계가 명확하다는 비판을 받았다. 

법안에선 고위험 영역 AI의 범위를 주요 국가보다 좁게 설정하고 있다. 생체 정보를 분석·활용하는 AI 중 범죄 수사나 체포 업무에 쓰이는 AI만 고위험 영역으로 분류하고 있다. 유럽연합(EU)이 도입을 검토 중인 관련 법안은 자연인의 실시간·사후적 원격 생체 신원확인에 사용되는 AI까지 고위험 영역으로 분류한다. 공공장소에서 실시간 원격으로 생체인식 정보를 활용한 신원을 확인하는 AI는 아예 사용을 금지한다.

AI기술의 우선허용, 사후 규제 조항을 두고서도 논란이 일었다. 해당 조항은 ‘국민의 안전과 생명, 권익에 위해가 되거나 공공의 안전보장, 질서유지 및 복리 증진을 현저히 저해할 우려 시’를 예외 조항으로 규정해 놨다. 그러나 추상적인 수준에 그쳐 규제가 무력화할 것이란 우려도 나온다. 시민단체의 이같은 우려에 대해 과기부는 답변서에서 "'우선허용·사후규제' 원칙은 초기시장에 대해 일반론적 조항이며 타 법령에도 유사 규정이 있다"며 "고위험 AI 규제 등 법안에 명시되지 않은 부분은 추후 대통령령으로 규율할 수 있다"고 답했다. 

 이미 2년은 묵힌 법 "빠른 게 능사 아니다" 

AI 관련 법을 제정해야한다는 목소리가 나온 건 벌써 수년 전 이다. 논의된 통합단일안은 2021년에 공청회를 했다. 오래 물밑에서 묵혀있다가 챗GPT 등장 후 AI 산업에 대한 관심이 높아지자 그제야 다시 논의되기 시작한 것이다. 조승래 과방위 법안소위원장이 "그동안 소위원회가 이렇게 운영이 안됐다는 걸 단적으로 보여주는 법안"이라고 평가했을 정도다. 조 소위원장은 "이 법안이 통과되면 윤석열 정부의 성과가 되겠죠? 제때 처리했으면 문재인 정부 성과였을텐데"라고도 했다. 

지난 법안소위에서 여야 의원들은 단일안을 빨리 통과시키려는 태도를 보였다. 정필모 의원은 "인공지능과 관련해 챗봇 이런 것들이 빠르게 보급되고 있는 상황에서 법안을 일단 빨리 제정하는 게 필요하다는 생각"이라며 "설사 조금 미비한 점이 있더라도 일단 법을 제정해서 시행해 보고 필요시에 보완 입법하면 된다"고 했다. 윤영찬 의원도 "통합안 내용 자체가 생각과 약간 다른 부분도 있지만 법안 자체의 제정이 지금 시급하다는 측면에서 (단일안에) 동의한다"고 했다. 

허겁지겁 만든 법안에 대한 우려도 있다. 구멍 뚫린 법안으로 괜히 현장의 혼란만 낳을 수도 있다는 목소리다. AI 규제 방식와 수준에 따라 기업들이 받을 영향도 크다. 한 AI스타트업 관계자는 "현장은 AI 기술 발전을 따라가기도 벅찬 상황으로 해외 따라 당장 법을 만들기보다는 당분간은 민간에서 이뤄지는 성과들을 지켜봐줬으면 좋겠다"고 했다. 또 다른 스타트업 관계자는 "관련 법을 만들겠다고 하는 순간부터 현장에선 행정적으로 불필요하게 해야할 일이 쌓이는 경우를 너무 많이 봤다"고 말했다. 

고은이 기자 koko@hankyung.com

▶ 클래식과 미술의 모든 것 '아르떼'에서 확인하세요
▶ 한국경제신문과 WSJ, 모바일한경으로 보세요