[AI기본법 가동下] 공공판로 확대 기대…“AI 도입 정량 성과에만 급급할라” 우려도

“실속 챙기려면 행정 업무 전반 IT 기반 다지기가 우선”

[디지털데일리 오병훈기자] 공공부문이 인공지능(AI) 제품·서비스를 우선 고려하도록 한 개정 AI기본법이 시행되면서 국내 AI 기업의 공공시장 진입 기회가 확대될 것이라는 기대가 나온다.

다만 실제 행정 수요와 업무 구조에 대한 검토 없이 AI 도입 건수만 늘릴 경우 이른바 실속 없는 ‘겉멋 AI’ 사업을 양산할 수 있다는 우려도 제기된다.

오늘(21일)부로 시행된 ‘AI 발전과 신뢰 기반 조성 등에 관한 기본법 시행령’ 개정안에 따르면 과학기술정보통신부는 AI가 실제 활용된 제품과 서비스를 심사해 확인서를 발급하고 확인 제품에는 다수공급자계약(MAS) 참여 요건 완화와 총액계약 적격심사 가점, 소프트웨어(SW) 단가계약 납품실적 면제 등 혜택을 제공한다.

정부는 공공기관이 AI 제품·서비스의 초기 수요처가 돼 민간시장 확산을 이끌도록 하겠다는 구상이다. 업계에서도 공공조달 실적이 부족한 신생 AI 기업에 새로운 판로가 열릴 수 있다는 점을 긍정적으로 평가하고 있다.

그러나 확인서를 발급받았다는 사실이 실제 구매와 이용으로 이어지지 않으면 기업에 또 하나의 인증 절차 업무만 추가하는 꼴이될 수 있다는 우려도 나온다. 공공기관이 해결해야 할 문제와 성과 목표를 먼저 정하지 않은 채 ‘AI 우선 고려’라는 정책 신호에 따라 도입을 서두를 경우, 업무 효율성 증대보다 기술 적용 자체에만 급급한 사업이 될 수 있다는 비판이다.

◆판로 확대 기대하지만…“실제 구매로 이어져야”

업계에서는 AI 제품·서비스 확인제도가 기존 공공 AI 사업의 발주 방식을 바꾸는 계기가 될 수 있다고 보고 있다.

그동안 공공 AI 사업은 기관별 요구에 따라 시스템을 별도로 개발하는 구축형 시스템통합(SI) 사업으로 추진되는 경우가 많았다. 앞으로는 기술 검증을 거친 AI 제품과 플랫폼을 구매해 적용하는 방식이 늘어날 수 있다는 전망이다.

한 IT 서비스 기업 관계자는 “검증된 AI 제품과 플랫폼 중심의 도입이 늘어날 가능성이 있다”며 “이미 조달 등록과 공공 레퍼런스를 확보한 국내 AI 기업에는 시장 진입 기회가 확대될 수 있다”고 말했다.

신생 AI 기업에도 기회가 될 수 있다. 공공시장에 진입하려면 기존 납품실적과 기술 신뢰성을 입증해야 하는데 이번 제도를 통해 일부 요건이 완화되고 확인서를 기술 증빙으로 활용할 수 있기 때문이다.

공공에서 확보한 납품 사례가 민간시장 진출의 기반으로 활용될 수 있다는 기대도 나온다. 공공기관에서 기술 안정성과 운영 경험을 입증한 뒤 금융·제조·유통 등 민간 영역으로 사업을 확장하는 방식이다.

다만 업계는 아직 제도가 시행 초기인 만큼 실제 시장에 미칠 영향을 관망하는 분위기다. 확인서를 취득한 기업이 늘더라도 공공기관이 관련 예산을 확보하고 실제 사업을 발주하지 않으면 직접적인 매출 확대 효과를 기대하기 어렵기 때문이다.

확인제도와 기존 조달제도 간 연계도 관건이다.

한 AI 업계 관계자는 “확인제도가 실제 구매와 조달로 이어지지 않으면 기업에는 또 하나의 인증 절차로 인식될 수 있다”며 “조달 등록과 혁신제품 지정 등 후속 제도와 유기적으로 연결돼야 실질적인 판로 확대 효과가 나타날 것”이라고 말했다.

AI 제품·서비스 확인 기준을 객관적이고 투명하게 운영해야 한다는 의견도 나온다. 단순히 제품에 AI 기능이 포함됐는지를 확인하는 데 그치지 않고 실제 업무에서 요구되는 성능과 안정성·지속적인 운영 가능성을 평가해야 한다는 취지다.

공공조달 평가 방식 자체를 AI 시대에 맞게 개편해야 한다는 의견도 제기됐다. 최저가 입찰 중심의 사업자 선정 방식을 재검토하고 요구 기능의 구현 여부만 확인하는 방식에서 실제 성능과 운영 능력을 중심으로 평가체계를 바꿔야 한다는 것이다.

또 다른 업계 관계자는 “여전히 모델의 벤치마크 성능이나 기술력만 강조하는 기업이 많다”며 “공공기관에서 곧바로 사용할 수 있는 수준으로 솔루션을 패키징하는 역량이 중요하다”고 말했다.

◆“AI 도입 자체가 목적되면 실패”…업무·책임부터 다시 설계해야

전문가들은 AI 제품을 우선 검토하도록 하는 것보다 공공기관이 어떤 문제를 해결하려는지 먼저 정하는 것이 중요하다고 지적한다. 공공서비스는 새로운 기술을 가장 먼저 시험하는 것보다 안정적으로 운영하는 것이 중요하다는 설명이다. 행정·복지·안전 등 공공서비스는 장애나 오류가 발생할 경우 국민에게 직접적인 영향을 미칠 수 있기 때문이다.

김숙경 한국과학기술원(KAIST) 기술 경영학부 교수는 “공공은 안정적인 서비스를 제공해야 하므로 기술만 앞서서는 안 된다”며 “무엇을 할 것인지 문제가 명확해야 하고 그 문제에 가장 적합하면서 안정적인 기술을 접목해야 한다”고 강조했다.

‘AI 우선 고려’가 발주기관에 가능한 한 많은 사업에 AI를 포함하라는 신호로 작용할 수 있다는 우려도 제기된다. AI 적용이 불필요한 업무에 기술을 도입하거나 기관의 준비가 갖춰지지 않은 상태에서 사업을 추진할 수 있다는 것이다.

특히 사업 성과를 측정할 핵심성과지표(KPI)가 제대로 설계되지 않은 사례가 적지 않다고 지적했다. 정확도나 자동화 비율 등 일부 기술 수치만 제시한 채 AI가 실제 행정 효율과 서비스 품질을 높였는지 검증하지 못하는 경우가 있다는 설명이다.

한 정책전문가는 “목적이 명확해야 목적에 맞는 기술을 선택하고 운영까지 이어갈 수 있다”며 “AI 도입에만 초점이 맞춰지면 AI 도입 자체가 목적이 되고, 정작 왜 도입했는지는 중요하지 않게 된다”고 말했다.

이에 공공 AX를 추진하기 전에 기존 업무 흐름을 재설계해야 한다고 강조했다. AI가 수행할 업무와 사람이 맡을 판단을 구분하고, 두 주체 사이의 권한과 책임, 통제 절차를 먼저 정해야 한다는 것이다.

에이전트 AI가 확산될수록 이러한 설계는 더욱 중요해진다. AI가 단순히 정보를 제공하는 단계를 넘어 업무를 직접 수행하면 권한 오남용과 편향, 잘못된 판단에 따른 책임 문제가 커질 수 있기 때문이다.

결국 AI기본법 성패는 확인서 발급 건수나 공공기관의 AI 도입 사업 수보다 실제 현장에서 성과를 내는 제품과 서비스를 얼마나 만들어내느냐에 달렸다는 것이 전문가들 분석이다. ‘공공기관이 AI를 구매했는지’가 아니라 ‘왜 AI가 필요한지’ ‘기존 업무를 어떻게 바꿀지’ ‘기술 도입 이후 누가 운영하고 책임질지’를 먼저 답해야 한다는 지적이다.