세계 최초로 'AI 기본법' 오늘 시행…"우리도 고위험AI? 규정 모호해"

지난해 12월30일 서울 여의도 국회에서 열린 본회의에서 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안(AI 기본법)이 가결되는 모습. /사진=뉴시스

'AI 기본법'(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)이 22일 전 세계 최초로 국내에서 시행됐다. 이 법안은 AI 산업 지원 방안과 규제 내용을 함께 담고 있다. 기업들은 지원 정책에는 찬성하는 입장이지만 투명성·안전성 확보, 고영향 AI 규정 등을 두고 불확실성이 커졌다는 반응이다. 특히 관련 인력 확보에 어려움을 겪는 스타트업의 경우 AI 기본법에 대응하기 쉽지 않다는 지적이다.

지난해 12월 스타트업얼라이언스가 발표한 AI 기본법 관련 설문조사에 따르면 AI 스타트업 가운데 기본법 시행에 대비하고 있는 기업은 2%에 불과했다. 전체 응답 기업 중 48.5%는 법 세부 내용에 대해 잘 모르고 준비를 하지 않았다고 답했다. 48%는 내용을 알고 있지만 준비가 미흡하다고 밝혔다. 시행을 한 달 앞둔 시점까지도 대부분의 AI 스타트업이 준비를 마치지 못한 셈이다.

스타트업들이 가장 우려하는 사안은 AI 신뢰성·안전성 인증제도(27.7%), 데이터셋 투명성 확보 요구(23.8%), 고위험(고영향) AI 지정 및 사전 등록·검증 의무(17.8%) 순으로 나타났다. 인증제도가 시행될 경우 이에 대비한 절차가 늘어나 비용과 시간이 추가로 소요될 수 있다. 기업들은 서비스 출시 지연과 인증 비용 부담을 우려하고 있다.

데이터셋 투명성 확보와 관련해서도 AI 기본법의 기준이 모호해 고지 범위가 과도하게 넓고 일부 항목은 중복 적용된다는 지적이 나온다. 최성진 스타트업성장연구소 대표는 지난 6일 서울 여의도 국회의원회관 제6간담회의실에서 열린 'AI 기본법 투명성·책임성 라운드테이블'에서 "투명성 의무 적용 대상이 모호하다"며 "기업들이 자신이 적용 대상인지 아닌지를 두고 혼란을 겪고 있다"고 말했다.

최 대표는 "투명성 확보를 위해 사전 고지를 하는데 사람이 인식하는 방식과 기계가 판독할 수 있는 방법 두 가지가 있다"며 "이를 모두 적용하면 과도한 규제에 해당한다"고 말했다. 투명성 확보를 위한 규제 기준이 명확하지 않아 기업들이 혼선을 겪고 있다는 것이다. 정부는 유권 해석이 필요한 사안에 대해서는 문의를 통해 해소하겠다는 방침이다.

고위험 AI 지정 문제 역시 AI 스타트업 다수가 우려하는 부분이다. 고위험 AI는 사람의 생명·신체 안전과 기본권 등에 영향을 미칠 수 있는 인공지능 시스템을 의미한다. 고위험 AI 사업자는 사전에 정부의 검토를 의무적으로 받아야 하며 이에 대한 별도의 책무도 부여된다. 다만 관련 법령의 범위가 넓어 고위험 여부를 구분하는 시행령이 충분히 구체적이지 않다는 지적이 나온다. 이로 인해 기업들은 자사의 사업이 해당하는지를 정부에 개별적으로 문의하며 확인해야 하는 상황이다.

한 스타트업 관계자는 "시행 자체를 반대하는 것이 아니다. 미국·EU보다 한국이 앞서서 시행착오를 겪을 필요가 있는지 모르겠다"며 "시행을 미루고 세부 세항을 조정하길 바랐지만 예정대로 진행됐다"고 말했다. AI 기본법의 필요성에는 공감하지만 다른 국가보다 앞서 시행되면서 부담을 먼저 떠안게 됐다는 설명이다.

김동환 포티투마루 대표. /사진=포티투마루

반면 김동환 포티투마루 대표는 우리나라가 AI 기본법을 가장 먼저 시행한 데 대해 높게 평가했다. 김 대표는 "언제가는 해야 되는 것이다. AI가 더 많이 활용되면 될수록 점점 중요해지는 문제이기 때문"이라며 "빨리 시행해서 준비를 먼저 하는 게 맞다고 생각한다"고 말했다. 다만 정부의 적극적인 지원이 병행돼야 한다고 강조했다.

그는 "과학기술정보통신부에서 관련 설명회를 진행하고 있고 다음 주에는 중소벤처기업부도 한다"며 "정부가 컨설팅을 통해 각 기업이 겪는 어려움을 줄여주고 있다"고 말했다. 이어 "물론 세부 시행령이 구체화되지 않은 부분들이 보이긴 한다"며 "처음부터 완벽하게 만들어 놓고 시행하는 것은 당초 어렵다고 본다"고 했다.

김 대표는 AI 기본법 시행에 따른 혼란을 줄이기 위해 정부 주도의 판단 툴(프로그램)이 필요하다고 제언했다. 기업들이 자사 프로그램이 적용 대상에 해당하는지 스스로 확인할 수 있도록 하자는 취지다. 그는 "먼저 한국이 시행착오를 통해 AI 기본법 완성도를 높일 경우 다른 국가가 벤치마킹할 수 있다"며 "그렇게 되면 한국이 글로벌 표준이 된다. 국내 기업이 해외로 진출할 때도 이점이 된다"고 강조했다.

지선우 기자 sunwooda@mt.co.kr