韓서 최초 시행된 ‘AI 기본법’…미완의 법안, 시험대 올랐다

워터마크·고영향 AI 관련 규제 담아…일부 기준 모호해 업계 촉각
스타트업 2%만 대응 체계 수립…AI 기술 발전 위축 우려도

(시사저널=조유빈 기자)

인공지능(AI) 생태계의 기본 틀을 담은 'AI 기본법'이 22일부터 시행됐다. AI를 포괄적으로 규율하는 법을 전면 시행하는 것은 전 세계에서 처음이다. AI 기본법은 인간의 생명과 기본권 등 고차원적 영역을 보호하고, AI 오용으로 인한 혼란을 줄이겠다는 취지다. 그러나 적용 기준이 모호한 상태로 법이 시행되면서 업계는 촉각을 곤두세우고 있다. 국내 AI 산업 혁신 속도를 늦추는 족쇄가 될 수 있다는 시각도 나온다.

22일부터 인공지능 생태계의 기본 틀을 담은 AI 기본법이 시행됐다. 사진은 AI 관련 이미지 ⓒFreepik

'자율적' 고영향 AI 지정에 우려

이날부터 적용되는 AI 기본법은 AI 산업 육성과 함께 윤리·안정성 기준을 제도적으로 정립하기 위해 마련된 법이다. 국민의 생명이나 권리에 큰 영향을 주는 분야의 AI를 법적 규제 대상으로 삼아 안전성 관리 의무를 부여하고, 생성형 AI를 활용한 결과물에 가시적·비가시적 워터마크를 부착해 표시하게 하는 등 투명성을 확보하는 것이 핵심이다.

고영향 AI는 사람의 위험을 초래할 수 있는 영역에서 기본권에 중대한 영향을 미칠 수 있고, 사람의 개입이 없는 경우 규제 대상이 된다. 에너지·보건의료·범죄수사·채용·대출심사·교통 등 영역에서 고영향 AI를 이용해 제품이나 서비스를 제공할 경우 사전 고지와 안전성 확보 조치가 의무가 된다. 현재로서 규제 대상은 자체 시스템으로 운전하는 자율주행차 등에 한정된다.

사람의 개입이 AI 결정 책임을 가른다. 향후 AI를 활용한 채용 심사에서 문제가 생기더라도 인사팀 직원이 최종적으로 판단한 경우에는 고영향 AI로 보지 않게 돼, AI 개발 사업자는 관리 책임에서 자유로울 수 있다. 고영향 AI에 대한 기준도 불분명한 상황이다. 분야별 가이드라인을 통해 영역을 분류해놓았지만 의료 분야에도 다양한 AI 업체들이 많은 만큼, 모두 고영향 AI로 보기는 어려워 판단이 쉽지 않다는 것이다. 추후 자율 판단에 대한 해석이 당국과 엇갈릴 경우 리스크가 생길 수도 있다.

AI 기본법은 딥페이크 영상 등으로 인한 혼란을 방지하기 위해 생성형 AI 결과물도 규제한다. AI 사업자는 결과물이 AI를 통해 생성됐다는 사실을 인지할 수 있게 표시해야 한다. 워터마크 등 가시적 표시뿐 아니라 비가시적 표시 방식도 허용되지만, 사실과 구분이 어려운 딥페이크 생성물의 경우 명확하게 인식이 가능하도록 고지해야 한다. 다만 콘텐츠 창작물의 경우 어느 수준부터 AI 생성물인지 판단하기 어렵다는 점이 문제로 거론된다. AI를 일부만 활용할 경우 표시 의무가 모호하다는 것이다. 업계는 이로 인해 제작 효율이 떨어지거나, 표시 자체로 인해 콘텐츠에 대한 부정적 인식이 생길 가능성을 우려한다.

의무를 갖는 주체는 AI 제품 및 서비스를 직접 제공하는 AI 사업자다. AI 기술이나 서비스를 업무나 창작의 도구로 활용하는 이용자는 의무 대상에 해당하지 않는다는 얘기다. 크리에이터 등은 AI 기본법 규제 대상이 아니기 때문에 플랫폼 유통 과정에서 정보통신망법 등 다른 법률의 적용을 받게 된다. 개별 이용자의 딥페이크 생성 유포에 대해서도 규율하지 않는다. 이는 정보통신망법이나 성폭력처벌법 등 기존 법으로 대응하고 있다는 설명이다.

지난해 12월30일 국회 본회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안이 통과됐다. ⓒ연합뉴스

EU는 미뤘는데…혁신의 족쇄 될까

고영향 AI 규제가 AI 혁신이 진행되는 분야를 향하고 있다는 점에서 규제 리스크를 염두에 둔 기업들이 발목을 잡힐 수 있다는 우려도 나온다. 기업이 자사 서비스에 대한 판단을 하기 어려울 경우 보수적으로 대응할 수밖에 없어 기술 개발과 혁신이 늦춰질 수 있다는 것이다. 앞서 미국의 한 기술정책 싱크탱크는 한국의 AI 기본법이 체계적이고 미래지향적이라고 평가하면서도 지나치게 포괄적인 AI 정의 등이 기업의 혁신을 저해할 수 있다고 지적한 바 있다.

특히 자본력이 부족한 스타트업 업계의 우려가 크다. 스타트업얼라이언스가 지난달 국내 AI 스타트업 101곳을 대상으로 실시한 조사에 따르면, 응답 기업 중 대응 체계를 수립한 기업은 2%에 불과했다. 법령은 인지하지만 대응은 미흡하다는 응답이 48.5%였다. 최성진 스타트업성장연구소 대표는 지난 6일 국회에서 열린 국회 토론회에서 "정부의 규제 최소화 방침에도 세계 최초로 시행되는 AI 기본법이 광범위한 규제 비용을 발생시키고 경쟁국에게 학습 사례를 제공할 수 있다"며 "유연하고 합리적 제도, 예측 가능하고 준수하기 쉬운 규제가 필수"라고 짚었다.

법안은 해외 사업자에 대해서도 국내 대리인을 통해 책임을 물을 수 있다고 규정하고 있지만 현재 기준을 반영할 경우 규제 대상은 구글이나 오픈AI 등 소수에 불과하다. 국내 서비스는 규제를 받고, 사각 지대에 있는 해외 서비스들은 오히려 반사이익을 얻을 수 있는 것이다. EU는 한국보다 앞서 AI 법안인 'AI 액트'를 제정했으나, 기업들의 준비 부족과 해외 기업과의 경쟁 등을 이유로 핵심 조항 적용을 2027년 말로 연기한 바 있다.

정부는 업계 혼란을 최소화하기 위한 연착륙 방안을 내놨다. 관련 법 위반 시 최대 3000만원의 과태료를 부과할 수 있으나, 1년 이상의 계도 기간을 둔다는 입장이다. AI 기본법 위반에 대한 사실조사권 집행도 최소화하는 방법을 통해 법을 천천히 시행하겠다는 입장으로, 계도 기간 동안 가이드라인의 디테일을 어떻게 잡느냐에 따라 법 안착의 성패가 갈릴 것이란 시각이 나온다. 김경만 과기정통부 AI정책실장은 전날 열린 설명회에서 "국회도 '개문발차'라는 취지로 접근했고, AI 기본법이 완벽하다고 생각하지 않는다"며 "법이 발전하고 안정될 수 있도록 개정 작업을 병행하고, 산업계와 시민단체가 함께 논의하는 구조를 만들어 가겠다"고 밝혔다.