세계 최초 AI 기본법의 역설…질서 있는 AI 생태계 구축이 불러올 ‘무질서’ [AI 딥다이브]

# AI 기본법 시행 전, A저축은행은 자체 개발한 AI 신용평가 모델로 쏠쏠한 재미를 봤다. 기존 금융 데이터 외에 비금융 데이터(통신비 납부 내역, 소비 패턴 등)를 활용해 대출 승인 속도를 1분 내외로 단축했고, 연체율도 20% 이상 낮췄다. 인건비 절감과 수익성 개선이라는 ‘두 마리 토끼’를 잡은 셈이다.

하지만 2027년 들어 A은행의 AI가 ‘고영향 AI’로 분류되며 상황이 급변했다. ‘설명 의무’가 발목을 잡았다. 대출이 거절된 고객들이 “왜 내가 거절됐는지 AI의 판단 근거를 상세히 밝히라”고 요구하기 시작했다. 수만 개의 변수가 복합적으로 작용하는 딥러닝 특성상 특정 원인을 집어 설명하기란 기술적으로 불가능에 가깝지만, 법은 ‘이해 가능한 설명’을 요구한다.

A은행은 AI 도입 전보다 운영 비용이 더 늘어났음에도 설명 가능한 모델로 교체하며 AI의 예측 정확도는 낮아지게 됐다.

최근 정부가 도입한 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI 기본법)’의 부정적 영향이 우려되는 금융권의 가상 사례다. ‘질서 있는 AI 생태계’를 구축하겠다며 마련한 AI 기본법이 오히려 ‘AI 족쇄’가 될 수 있다는 산업계 우려가 팽배하다. 정부가 벤치마킹했던 유럽연합(EU)조차 자국 산업 보호를 위해 속도 조절에 나선 가운데, 우리나라만 모호한 잣대로 자국 기업에 규제를 가하고 있다는 목소리가 높다.

‘질서 있는 AI 생태계’를 구축하겠다며 마련한 AI 기본법이 오히려 ‘AI 족쇄’가 될 수 있다는 우려가 제기된다. 사진은 배경훈 과기부 장관이 AI 강국에 대한 비전을 발표하는 모습. (연합뉴스)

‘고(高)영향 AI’의 모호한 경계

기준은 ‘깜깜이’, 책임은 ‘사업자 독박’

과학기술정보통신부는 지난 1월 22일부터 AI 기본법을 전면 시행했다. AI 기본법은 AI R&D(연구개발), 학습용 데이터 구축, AI 도입·활용 지원, 전문인력 확보 등 국내 AI 산업 육성을 위한 법률상 지원 규정을 담았다. AI 투명성·안전성 확보 의무, 고영향 AI 기준 및 사업자 책무 등 AI 활용 기반 조성을 위한 규정도 있다. 생성형 AI로 만든 모든 콘텐츠에 가시적인 워터마크를 넣도록 의무화하는 방안이 대표적이다.

정부는 ‘진흥 70%, 규제 30%’를 담은 균형 잡힌 법안이라고 강조한다. 그러나 산업계에선 진흥보다 규제에 더 민감하게 반응하는 모습이다.

가장 쟁점이 되는 부분은 규제가 집중되는 ‘고영향 AI(잠깐용어 참조)’다. 정부는 ‘AI가 생성한 결과가 사람의 생명, 신체의 안전 또는 기본권의 향유에 중대한 영향을 미칠 우려가 있는’ 10개 분야를 지정하고 각종 규제 방침을 제시했다(AI 기본법 제2조). 에너지 공급, 보건의료, 원자력시설 관리, 생체인식정보 분석, 채용·대출 심사, 교통·공공서비스 의사결정 등이 해당한다.

문제는 고영향 AI의 ‘중대한 영향’ ‘기본권 향유’ 등 표현의 정의가 주관적이고 모호하다는 것. 예를 들어, 맞춤형 뉴스 추천 AI가 사용자의 ‘알 권리(기본권)’에 중대한 영향을 주는지 여부를 두고 정부와 기업의 해석이 충돌할 수 있다.

이처럼 어떤 서비스가 고영향 AI인지도 모호하지만, 이를 판단할 책임은 1차적으로 사업자에게 부여된다. AI 기본법 제24조 제1항에 따르면 “AI 사업자는 자신이 제공하거나 활용하려는 AI가 고영향 AI에 해당하는지 여부를 사전에 확인하여야 한다”고 명시했다. 기업이 자의적으로 “우리는 해당 안 된다”고 결론 냈다가, 훗날 사고가 터지거나 정부가 사후적으로 “고영향이었다”고 판정하면 사업자는 그간의 모든 활동에 대해 법적 책임을 지게 될 수 있다.

‘AI 제조사’뿐 아니라 ‘AI 이용 사업자’까지 규제망에 넣은 것도 대상이 너무 광범위하다는 지적이다. AI를 직접 만드는 네이버나 카카오뿐 아니라, AI 솔루션을 사다 쓰는 중소기업과 스타트업까지 규제 준수 대상에 포함될 수 있다. 처벌 대상의 기준과 범위가 불투명한 상황에서 중소 사업자들은 법적 리스크를 우려해 AI 기술 도입에 소극적일 수 있다. 모호한 규제가 국내 AI 생태계 전반의 기술 채택 속도를 늦추는 ‘자책골’이 될 것으로 우려되는 이유다.

고영향 AI 사업자에 부여되는 지나친 기술 공개 의무도 부담으로 지적된다.

AI 기본법 24조에 따르면 고영향 AI 사업자는 “고영향 AI 해당 여부의 확인 결과 및 그 근거 서류를 작성하여 보관해야 하며, 과기부 장관이 요청하는 경우 이를 제출해야 한다”. 25조에선 “AI의 성능, 한계점, 주요 작동 원리 등을 이용자가 이해하기 쉬운 방식으로 고지해야 한다”고도 명시했다. 기업 입장에서는 수년간 막대한 자금을 투입해 개발한 AI의 핵심 영업 비밀을 규제라는 명목하에 외부에 노출될 위험을 감수해야 하는 셈이다.

또한 학습에 사용된 연산량이 10의 26승 플롭(FLOP, 컴퓨터가 수행한 계산 횟수) 이상인 ‘고성능 AI’ 사업자는 개발 단계부터 생애주기 관리, 안전성 보고서 제출 등의 의무를 지게 된다. 이만한 성능을 가진 AI는 오픈AI의 GPT-4 정도여서 국내에선 해당하는 기업이 없다는 게 정부의 논리다. 그러나 AI 기술이 기하급수적으로 발전하는 데다, 글로벌 기업과 대등한 수준으로 성장했을 때 오히려 우리 기업만 규제의 덫에 걸리게 될 수 있다는 우려가 제기된다.

업계 관계자는 “고성능·고영향 AI로 지정되는 순간, 혁신의 속도는 정부의 승인 속도에 맞춰질 수밖에 없다. 현재 AI 기업의 대부분이 적자를 감수하며 R&D 투자 경쟁을 벌이는 상황에서 우리 기업만 추가적인 법무·기술 비용과 책임을 안게 되면 역차별이 될 수 있다”고 꼬집었다.

EU는 ‘유예’, 한국은 ‘강행’

글로벌 스탠더드 역행하는 ‘속도전’

AI 기본법은 EU가 2021년 제정한 EU AI 법(EU AI Act)을 벤치마킹한 것으로 알려진다. 그러나 정작 EU는 AI 법 시행을 앞두고 속도 조절에 들어갔다. 지난해 11월, EU 집행위원회는 핵심 조항인 고위험 AI 규제 적용 시점을 당초 2026년 8월에서 2027년 12월로 16개월 연기하는 ‘디지털 간소화 방안’을 발표했다.

미국과 일본도 자국 산업 보호를 위해 AI 규제 시행을 미루고 있다. 미국 도널드 트럼프 행정부는 최근 AI 규제 권한을 연방정부로 통합하고 주(州) 단위의 개별 규제를 제한하는 ‘원 룰북(One Rulebook)’ 행정명령에 서명했다. 미국 정부가 AI 기업의 신기술 이용을 승인하면, 50개 주에서 자동으로 일괄 승인되는 ‘AI 행정 절차 간소화’ 정책이다. 일본 역시 ‘AI 추진법’을 통해 법적 처벌보다는 가이드라인 수준의 관리 방식을 고수하고 있다.

이처럼 선진국들이 앞다퉈 규제의 담장을 낮추는 사이, 한국만 담장을 높인다는 지적이 쏟아지자 정부는 고삐를 다소 늦추는 모습이다. 과태료가 부과되지 않는 유예 기간을 최소 1년 이상 두고 계도와 컨설팅 중심으로 대응한다는 입장이다.

김경만 과기정통부 AI정책실장은 “정부도 AI 기본법이 완전하다고 생각하지 않는다. 국회 통과 당시 언급했던 ‘개문발차(開門發車)’라는 말처럼 일단 조금씩 운전해보며 부족한 점을 보완하고 사회적 합의를 축적하겠다”고 말했다.

잠깐용어*고영향 AI(High-Impact AI) | 인공지능이 내린 결정이 인간의 생명, 신체의 안전 또는 기본권에 중대한 영향을 미칠 가능성이 있는 기술. 에너지 공급, 보건의료, 채용, 금융 대출 심사 등이 대표적인 분야로 꼽힌다.

[노승욱 기자 noh.seungwook2@mk.co.kr]

[본 기사는 매경이코노미 제2348호 (2026.02.25~03.03일자) 기사입니다]

[Copyright (c) 매경AX. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지]