[모두의 AI, 엇갈린 AX]②전문가들이 말하는 AX 실패의 원인들

중소기업 AX는 왜 실현이 어려울까

편집자주
인공지능(AI)이 기업의 생산성과 일하는 방식을 바꾸고 있지만 대기업, 중소기업 간 속도의 차이가 생기고 있다. AI 전담 조직과 인프라를 갖춘 기업들이 전사적인 AI 전환(AX)에 속도를 내는 사이 그렇지 못한 기업·기관들은 AX 사각지대에 놓여 '모두의 AI'에서 소외된다. 아시아경제는 혁신 이면에서 벌어지는 AX 격차를 살펴보고, 누구도 소외되지 않는 모두의 AI로 생산성을 높이기 위한 조건과 해법을 짚어 본다.

"같은 재무 자동화 작업에 제조 대기업은 10억~20억원 정도 투자하지만, 중소기업은 3000만원도 어려워합니다."

고객사의 AX를 지원하는 기업들은 현장에서 'AX 사각지대'를 쉽게 마주친다. 전문가들은 12일 아시아경제와의 인터뷰에서 AI를 업무와 성과에 연결할 수 있는 '준비도'와 '실행 역량'에서 대기업-중소기업 간 AX 격차가 벌어지고 있으며 정부 지원 없이는 AX 양극화가 더 심해질 것이라고 경고했다.

박민준 뤼튼AX 대표는 현장을 나가 보면 대기업은 AX를 결정한 이상 부서별로 10억원 이상 규모의 프로젝트를 진행하고 투자를 지속하지만 중소기업은 단일 부서 업무에 초기 비용이 들어가는 것 자체를 부담스러워한다고 설명했다. 예산 차이는 곧 AX 수준 차로 이어진다. 당초 계획했던 인프라나 기능을 축소해야 했고, 업무 환경에 맞는 별도의 맞춤형 서비스 제공도 포기해야 하는 경우가 많다. 박 대표는 "중소기업의 경우 비용 문제로 구현하고자 하는 AX 수준을 포기해야 하는 사례가 많이 발생한다"며 "투자 여력이 크지 않으면 맞춤형 작업도 어려워진다"고 말했다.

공성배 메가존클라우드 최고AI책임자(CAIO)는 현장에서 체감하는 AX 격차가 단순 'AI 도입률' 차이 이상이라고 설명했다. 생성형 AI가 빠르게 대중화되면서 누구나 AI를 사용할 수 있는 환경이 만들어졌지만, 실제 업무에 적용하고 조직 전체로 확산하는 수준에서 차이가 뚜렷하다는 것이다.

공 CAIO는 "여러 AI 과제를 통해 실험하면서 전사 확산과 통합 거버넌스를 고민하는 대기업과 달리 상당수 기업은 구성원이 개별적으로 AI를 사용하는 수준에 머물거나 적용 업무를 선정하는 단계에 있다"고 진단했다. 이어 "AX 실행 조직과 예산을 갖춘 대기업과 달리 한두 명의 담당자가 기존 업무와 AX를 동시에 수행하는 경우가 많다"고 덧붙였다.

중소기업뿐 아니라 AI를 활용한 경제적 효용을 체감해보지 못한 소상공인, 규제·보안 요건이 엄격한 공공기관, 자료 대부분이 한글 문서와 종이 형태여서 데이터 표준화 수준이 낮은 교육 기관들도 상황은 마찬가지다. 공 CAIO는 "전문인력 확보가 어렵고, 규제로 인해 공개형 AI 서비스를 활용하기 어려운 곳들이 많다"며 "선·후발 조직 간 격차가 시간이 갈수록 커질 수 있다"고 설명했다.

AX에 실패한 조직들의 공통점은 활용 가능한 충분한 데이터가 없다는 점이다. 데이터가 여러 시스템과 문서에 흩어져 있고, 표준과 품질 기준이 다를 뿐 아니라 접근 권한이 정리되지 않아 AI가 활용하기 어렵다. 업무가 구성원의 경험과 비공식적인 협업에 의존하는 경우가 많으면 전문 도메인을 구축하기도 어렵다.

한선호 베스핀글로벌 CAIO는 "에이전틱 AI가 제대로 작동하는 환경을 만들기 위해 기존 시스템을 현대화하고 데이터를 구조화하는 작업이 먼저 이뤄져야 한다"며 "준비 과정에 투입할 예산과 인력이 절대적으로 부족한 기업도 많다"고 설명했다.

AI를 어떻게 적용해 성과를 낼 것인지에 대한 기업 내 로드맵이 부족하다는 문제도 있다. 한 CAIO는 "AI를 어떤 업무와 방식, 순서로 적용할지 판단할 수 있는 내부 역량이 없어 기술 검증(POC) 단계에서 멈추는 경우가 많다"고 말했다.

전문가들은 AX 격차를 좁히기 위해 단순 솔루션 공급이나 일회성 지원을 넘어 데이터 정비와 컨설팅, 교육, 구축 이후 운영까지 이어지는 지원이 필요하다고 입을 모았다.

박 대표는 맞춤형 AX를 위해 교육, 컨설팅, 구축이 이어지는 트라이앵글 모델을 강조했다. 박 대표는 "AX는 챗봇 하나를 만들어 파는 일이 아니라 회사 전체의 문화를 바꾸고 AI 전환이 필요하다는 조직 내 합의를 이루는 과정"이라며 "실제 매출을 만들고 비용을 줄이는 영역부터 AI로 전환해야 한다"고 설명했다.

업종, 분야별 표준화된 AX 기준을 만들 필요도 있다고 했다. 개별적으로 확보하기 어려운 데이터·컴퓨팅·전문인력을 공동으로 활용할 수 있는 기반이 필요하다는 것이다. 박 대표는 "투자 여력이 작은 기업·기관의 요구사항을 모아 표준화하고, 공급기업과 매칭한다면 AX 속도를 높일 수 있을 것"이라고 말했다.

이은서 기자 libro@asiae.co.kr