“기업 AI 전환 실패는 기술력 아닌 리더십 때문”…매경 AX클럽 설명회

매일경제 AX 설명회 개최
고정우 메타넷 상무 강연
“PoC 성공은 성과 아냐”
BCG 등 전문가 함께하는
AX클럽 올 3월 출범 앞둬

“인공지능(AI) 프로젝트가 실패하는 건 기술 문제가 아니라 전략·구축·운영 전 단계에 걸친 판단 오류의 결과입니다.”

고정우 메타넷 상무가 지난 11일 서울 중구 매일경제 교육센터에서 매경AX 주최로 열린 ‘AX(인공지능 전환) 설명회’에서 국내 기업 AI 프로젝트 실패 원인은 경영 판단 오류에 있다고 지적했다. 효과적인 AI 적용을 위해서는 기업의 의사 결정 체계를 먼저 점검해야 한다는 의미다. 메타넷은 AX 전문 정보기술(IT) 그룹으로 기업의 AI 도입을 위한 토털 케어 서비스를 제공하고 있다.

고정우 메타넷 상무가 지난 11일 서울 중구 매일경제 교육센터에서 매경AX 주최로 열린 ‘AX(인공지능 전환) 설명회’에서 강연하고 있다.

PoC 성공은 성과 아냐

고 상무는 국내 기업의 AI 프로젝트 상당수가 운영 단계에서 자연스럽게 소멸하고 있다고 꼬집었다. 그는 “AI 프로젝트는 실패해도 요란하지 않다”며 “조용히, 그러나 확실하게 조직에서 사라진다”고 말했다. 이어 “AI 프로젝트의 실패는 ERP나 SAP 같은 기존 IT 프로젝트와 다르다”며 “공식적인 중단 선언 없이 사용되지 않는 상태로 방치되며 비용만 누적되는 형태로 나타난다”고 덧붙였다.

그는 AI 프로젝트 성공을 위해서는 성과에 대한 정의부터 바꿔야 한다고 강조했다. 개념검증(PoC)에 성공하거나 AI 모델 정확도를 높이는 건 실제 비즈니스 성과가 아니라는 설명이다. 그는 “정확도 99% 모델이라도 1%의 실패가 금융·제조 현장에서는 치명적인 손실로 이어질 수 있다”며 “기술 지표와 사업 성과 사이에는 본질적인 괴리가 존재한다”고 강조했다.

국내 기업의 실패 사례도 소개됐다. 한 국내 제조사는 여러 차례 PoC에 성공했지만 전사적 확산 단계에서 운영비 급증과 책임 소재 불분명을 이유로 프로젝트를 종료했다. 또 다른 제조사는 4년간 4개의 AI 에이전트 프로젝트를 추진했지만 현재는 어느 부서에서도 사용하지 않는다. 그는 “PoC 만능주의와 판단의 외주화가 동시에 작동한 전형적인 실패 사례”라고 평가했다.

메타넷 소개 [메타넷 홈페이지 캡처]

SI식 워터폴 AI에선 독

AI 프로젝트에 부적합한 구축 전략도 지적됐다. 많은 기업이 여전히 시스템통합(SI)식 워터폴 방식으로 AI 프로젝트를 추진하면서 실패를 자초한다는 것이다. SI식 워터폴 방식은 폭포처럼 위에서 아래로 떨어지는 단계별 개발 방법론을 뜻한다.

고 상무는 “AI는 처음 세운 가설이 틀릴 가능성이 크다”이라며 “요구사항과 범위를 고정해 놓고 6개월, 1년 단위로 추진하는 방식은 구조적으로 맞지 않는다”고 설명했다. 이에 따라 정보기술(IT) 부서, 사업 부서, 운영 부서 간 갈등이 발생하고, 데이터 준비 미흡이나 실제 업무와의 괴리가 심화한다는 설명이다.

그는 성공적인 구축을 위해서는 자동화할 ‘업무’가 아닌 AI가 내릴 ‘판단’을 명확히 정의해야 한다고 말했다. 또한 오너십과 결정 권한을 명확히 구분한 역할과 책임(R&R) 설정이 필수적이라고 부연했다.

국내 AX 실패 사례 [메타넷]

성패는 운영 단계에서 갈려

AI 프로젝트는 도입이 아닌 운영 단계에서 성패가 갈린다는 점도 역설했다. 고 상무는 “AI 모델은 시간이 지나면 성능이 저하되는 것이 정상”이라며 “이를 오류로 취급하고 방치하면 결국 사용되지 않는 시스템이 된다”고 상술했다.

기업 내 생성형 AI 사용량이 증가하면서 GPU 비용이 폭증할 수 있다는 점도 경고했다. 그는 “프로젝트가 잘돼서 생성형 AI가 본격적으로 쓰이기 시작하면 예산 통제가 불가능해지는 상황이 발생할 수 있다”며 “비용 상한선과 중단 기준을 사전에 정하지 않으면 AX는 지속될 수 없다”고 했다.

고 상무는 AI 도입을 ‘전사적 권한과 책임의 재배치 문제’로 봐야 한다고 강조했다. 그는 “AI에서 가장 중요한 판단을 예산과 권한이 없는 IT 부서에 맡겨서는 안 된다”며 “최고경영자(CEO)와 경영진이 직접 관여하지 않으면 AX는 성공할 수 없다”고 단언했다.

고 상무는 AI 도입은 장기적 관점에서 추진해야 한다는 점도 분명히 했다. 그는 “AI는 단거리 경주가 아니라 마라톤”이라며 “리더십의 판단이 많이 축적될수록 성과가 나는 구조를 만들지 않으면 AI는 조용히 실패한다”고 말했다.

이날 강연엔 다수 기업의 AI 리더가 자리했다.

매일경제, 3월 AX클럽 출범…BCG, 메타넷 등 전문가 참여

이번 설명회에는 AI 전환을 고민 중인 AI 리더 등 기업 관계자 다수가 참여했다. 참가자들은 성공적 AI 도입을 위해 조직의 리더십부터 점검해야 한다는 메시지에 공감했다.

특강 후반에는 다음달 출범할 매경AX클럽 소개 세션도 진행됐다. 매경AX클럽은 기업 맞춤형 AX 성공 전략과 방법론을 제시하는 경영진 중심 멤버십 프로그램이다. 매일경제와 함께 메타넷 그룹, 보스턴컨설팅그룹(BCG)의 리더급 전문가들이 참여한다. 이들은 세계적 기업의 AX 성공·실패 사례 분석부터 비용·위험 관리, 모델 단계에서 업무로의 확장 전략 등을 경영학적 관점에서 풀어낼 예정이다. 메타넷 그룹의 AI 실행 리더들은 현장에서의 실제 적용 경험을 공유한다.

신청과 관련한 문의가 있으면 매경비즈(02-2000-5469)에 전화하거나 AX클럽 홉페이지(axclub.mk.co.kr)에 접속하면 된다.

매경AX클럽 개요