AI에 뭉칫돈 쏟아붓는데 성과는 빈약?… 어느 정도길래

스태티스타, 전 세계 AI 시장 규모 급성장… 반면 ROI는 '29%'에 그쳐

[디지털데일리 구아현 기자] 글로벌 기업들이 AI에 천문학적인 돈을 쏟아붓고 있지만 실질적인 성과를 거둔 곳은 10곳 중 3곳에 그쳤다. '투자 대비 성과 없음', 이른바 AI 생산성 역설이 올해 기업 경영의 핵심 과제로 부상했다.

스태티스타 자체 시장 전망에 따르면 2026년 전 세계 AI 시장 규모는 3470억 달러(약 522조 원)에 달할 전망이다. 2031년까지 연평균 37% 성장해 1조 6800억 달러(약 2528조 원) 규모로 확대될 것으로 예측된다. 이 중 생성형 AI 시장만 867억 달러(약 130조 원)로, 2032년까지 연평균 24.8% 성장이 전망된다. 국가별로는 미국이 626억 달러(약 94조 원)로 최대 시장을 형성한다.

국제데이터공사(IDC)에 따르면 2026년 전 세계 기업의 AI 관련 지출은 3010억 달러(약 453조 원)에 달할 전망이다. 2025년 2230억 달러(약 335조 원) 대비 35% 증가한 수치다. 가트너는 이 중 AI 소프트웨어 부문에만 1570억 달러(약 236조 원)가 집중될 것으로 전망했다.

◆ 투자 폭증…빅테크도 전례 없는 설비 투자

빅테크 기업들의 AI 인프라 투자 규모도 전례 없는 수준이다. 테크크런치 집계에 따르면 2026년 아마존이 2000억 달러(약 301조 원)로 가장 많다. 구글 1750억~1850억 달러(약 263조~278조 원), 마이크로소프트 1500억 달러(약 226조 원), 메타 1150억~1350억 달러(약 173조~203조 원), 오라클 500억 달러(약 75조 원) 순이다.

기업당 평균 AI 지출은 2025년 700만 달러(약 105억 원)에서 2026년 1160만 달러(약 175억 원)로 65% 급증했다. 현재 전 세계 기업의 88%가 최소 하나 이상의 업무 영역에 AI를 도입했다.

문제는 막대한 투자가 실질적인 성과로 이어지지 않는다는 점이다.

PwC가 95개 국가·지역 4454명의 CEO를 대상으로 실시한 '2026 글로벌 CEO 서베이'에서 응답자의 56%가 "AI 투자에서 유의미한 재무적 성과를 얻지 못했다"고 답했다.

AI를 통해 수익 증가와 비용 절감을 동시에 달성한 기업은 12%에 불과했다.

엔터프라이즈 AI 플랫폼 기업 라이터(WRITER)가 독립 리서치 기관 워크플레이스 인텔리전스(Workplace Intelligence)와 함께 미국·영국 등 6개국 지식노동자 2400명을 대상으로 실시한 '2026 기업 AI 도입 현황' 조사에서도 생성형 AI에서 유의미한 ROI를 경험한 기업은 전체의 29%에 그쳤다.

가트너는 생성형 AI 개념검증(PoC) 프로젝트의 30%가 본격 배포 전 단계에서 폐기된다고 분석했다. 2025년 한 해에만 기업의 42%가 추진하던 AI 프로젝트 대부분을 포기했다. 전년도 17%에서 2배 이상 급증한 수치다.

◆ "개인 생산성은 늘었는데 기업 성과는 그대로"

핵심은 개인과 조직 사이의 간극이다. AI 도구를 사용하는 개인 지식노동자는 연간 7800달러(약 1174만 원) 상당의 생산성 향상 효과를 얻고, 주당 업무시간의 5.4%를 절약한다. 그러나 이 개인적 이득이 기업 단위의 매출·이익 개선으로 이어지지 않고 있다.

맥킨지는 이를 두고 "AI의 생산성 효과는 실재하지만 조건부"라고 규정했다. AI를 통해 14개월 내 5.8배 ROI를 달성하는 사례도 있지만, 이는 전체 AI 이니셔티브의 6%에 불과한 고성과 기업에 국한된다. AI 성숙도에 도달한 기업은 전체의 1%에 그친다.

워크데이의 2026년 연구는 또 다른 문제를 지적했다. AI가 절약해주는 시간의 약 37%가 AI 결과물을 검토·수정·검증하는 데 재소비된다는 것이다. 이를 '재작업 세금(Rework Tax)'이라 부른다.

국내 상황도 다르지 않다. 메가존클라우드와 파운드리(구 IDG)가 국내 AI·IT 담당자 749명을 대상으로 실시한 조사에 따르면 올해 생성형 AI를 도입하는 국내 기업 비율은 85%에 달하고, 이 중 79.3%는 올해 AI 관련 예산을 늘릴 계획이다.

도입의 가장 큰 걸림돌로는 기술 인력·기술력 부족(49.8%)이 1위로 꼽혔다. 적절한 인프라·데이터 확보 어려움(32.0%), 경영진 지원 부족(21.0%)이 뒤를 이었다.

워크데이(Workday)와 하노버리서치가 2025년 11월 실시한 글로벌 조사(3200명 대상)의 한국 결과에 따르면, 국내 직원의 69%가 AI 도입 후 생산성이 향상됐다고 느끼지만 AI 오류를 수정하고 결과를 재확인하는 데 상당한 시간이 소요된다는 결과가 나왔다.

◆ 올해부터 '성과 검증' 시작

업계 전문가들은 올해를 AI 전략의 변곡점으로 보고 있다. 기술 도입 자체가 목표였던 시대가 끝나고, 실질적 비즈니스 성과로 AI의 가치를 증명해야 하는 시대가 열렸다는 분석이다.

업계 분석을 종합하면 AI 도입에 성공한 기업들은 공통적으로 ▲명확한 비즈니스 목표 설정 ▲데이터 품질 확보 ▲AI 거버넌스 체계 구축 ▲임직원 AI 역량 내재화를 우선시했다. 반면 실패한 사례는 기술 도입 자체에 집착하거나 조직 변화 관리를 소홀히 한 경우가 많았다.

국내 주요 기업 총수들도 올해 신년사에서 이 같은 기조를 드러냈다. 신동빈 롯데그룹 회장은 "혁신의 필요성은 반복적으로 이야기해왔지만 실행력이 뒷받침되지 않아 가시적인 성과로 이어지지 못했다"며 "올해에는 계획과 실행 사이의 간극을 줄여야 한다"고 밝혔다. 윤홍근 제너시스BBQ그룹 회장도 "단순한 계획을 넘어 실행과 결과로 증명해야 하는 해"라며 실행력 중심의 경영 전환을 선언했다.