문제투성이 AI기본법, 적용 늦추고 대폭 개정 나설 때[사설]

22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’ 시행에 들어감으로써, 한국이 세계 최초의 AI 기본법 시행국이 됐다. 정부는 진흥과 규제를 아우르는 ‘AI 헌법’이라 자평하지만 조금만 자세히 보면 문제투성이 법안이다. 모호한 포괄적 규제로 AI 강국 도약을 방해하는 족쇄가 될 가능성이 크다. 유럽연합(EU)이 먼저 관련법을 만들고도 적용 시점을 늦추고, 미국과 일본이 자율 규제 방향으로 움직이는 배경이다. 특히 고영향 AI 규정 및 중대한 영향의 개념이 모호하고, 워터마크 표시제의 실효성을 기대하기 힘들며, 해외 기업은 규제할 수 없어 국내 기업만 역차별 당하는 등 3대 문제점이 심각하다.

법 시행에 따라 AI를 활용한 제품·서비스에는 AI 사용 사실을 알리는 표시(워터마크)를 의무적으로 부착해야 한다. 에너지·대출 심사 등 국민의 생명·안전·기본권에 중대한 영향을 미치는 10개 영역은 ‘고영향 AI’로 분류돼 사전 고지와 위험관리 방안 수립 등의 의무가 추가되며, 위반 시 최대 3000만 원의 과태료가 부과된다.

AI 기술이 산업과 일상을 뒤흔드는 상황에서 기본적인 규율 틀은 필요하지만, 영향 범위가 넓은 만큼 섬세한 설계가 전제돼야 한다. AI가 산업 전반에 급속히 도입되는 상황을 감안하면, 사실상 거의 대부분의 사업자가 워터마크를 부착하는 책임과 비용을 떠안게 된 반면, 딥페이크 같은 악의적 행위자는 기술적으로 얼마든지 삭제·위조를 통해 빠져나갈 수 있다. 고영향 AI의 경우도 어느 정도의 영향을 ‘중대’로 볼지에 대한 기준이 모호해 업계의 혼란을 부르고 있다. 더 심각한 문제는 기업들이 규제를 피해 해외로 옮겨갈 수밖에 없는 상황을 조장하는 것이다.

정부도 사실 조사와 과태료 부과 등 법 적용은 1년 이상 유예한다는 입장이다. 그러나 그 정도론 부족하다. 적용을 전면 보류하고 법안을 원점에서 재검토할 필요도 있다.