[기고] AI 프로젝트를 실패하지 않는 법

장동인 KAIST 김재철AI대학원 책임교수

아마도 2025년은 우리 기업에서 인공지능(AI) 도입의 획기적인 전환의 해가 될 것 같다. 많은 기업에서 AI가 실질적인 도움이 되고 있고, AI가 일반 직원에 의해서 잘 활용되고 있기 때문에 전사적으로 확산될 것으로 보인다. 2025년을 내다 보고 기업의 AI 도입을 고려하는 임직원들이 염두에 두어야 하는 것들을 적어보았다.

AI는 패키지가 아니다.

AI는 클라우드, 전사자원관리(ERP), 제품수명주기관리(PLM)과 같은 시스템처럼 뭔가 도입해야 하는 패키지가 아니다. AI는 기업에 맞게 딱 도입하는 것이 있는 것이 아니며, 기업 내에 이를 효과적으로 활용하려면 기업 내부의 인력이 AI를 이해하고 활용할 수 있어야 한다. AI 도입의 핵심은 내부 인력의 교육이다.

AI는 내부 직원이 스스로 해야 한다.

AI 프로젝트는 AI 모델 자체보다도 그 모델을 적용하기 위한 준비 단계, 즉 적용 분야 선정, 데이터 확보, 전처리, 가공, 그리고 활용 등의 작업이 90% 이상을 차지한다. 이러한 작업은 AI 전문가가 아닌, 업무를 잘 아는 내부 직원들이 주도해야 한다.

AI의 핵심은 협업이다.

AI 도입 시 부서 간 협업이 중요하다. 그러나, 협업은 공짜가 없다. 새로운 협업 프로세스를 설계하고, 이를 뒷받침하는 KPI 및 성과 평가 체계가 필요하다. 이러한 구조가 마련되지 않으면, 부서 간 협업은 유명무실해지고 AI 프로젝트는 실패할 가능성이 커진다.

생각보단 내부 직원에게 AI 교육을 하는 것이 빠르다.

항상 CEO의 고민은 외부에서 AI 전문가를 영입해야 하는가 아니면 내부 직원을 교육시켜서 길러야 하는가 하는 것이다. 외부 AI 전문가가 기업의 업무를 이해하는 데는 상당한 시간이 걸리므로, AI 도입을 외부 전문가에게 의존하는 것은 비효율적이며 비용이 많이 든다. 뿐만 아니라 외부에서 영입된 AI 전문가들은 다른 기업에서도 인기가 많기 때문에 항상 이직할 수 있는 가능성이 있다. 그러기에 내부 직원을 양성하는 것이 훨씬 안정적이고 빠르고 비용이 적게 든다.

AI 도입을 AI 팀에만 전적으로 의존하는 것은 실패를 자초하는 길이다.

외부 AI 전문가로 구성된 팀에 AI 도입을 맡기면 프로젝트가 실패할 가능성이 크다. AI 전문가들이 내부 업무를 제대로 이해하지 못하기 때문에 AI 적용 분야를 선정하기 어렵고, 이는 프로젝트의 초반부터 난관에 부딪히게 만든다. 현업 부서에서 도움을 주고 싶어도, AI 팀이 업무를 제대로 이해하지 못해 협업이 어려워진다.

AI 팀장은 내부 인사로 임명해야 한다.

AI 팀의 성공적인 운영은 부서 간 협업에 달려 있는데, 외부 인사가 팀장을 맡을 경우 이러한 협업이 원활하게 이루어지지 않는다. AI에 대한 전문성은 얼마든지 부서원에 의해서 보충이 되지만, 업무의 이해와 부서 간 협업을 주도하는 것은 내부 직원이 해야 한다.

AI 프로젝트를 외주에 의존하는 것은 실패를 부를 수 있다.

다른 IT 프로젝트처럼 AI 프로젝트를 외주화하면 기업 내 AI 기술력이 내재화되지 않고, 프로젝트 결과물이 기대에 미치지 못하는 경우가 많다. AI 프로젝트를 주관하는 임원들의 기대가 필요 이상으로 크고, 프로젝트 결과는 항상 기대에 못 미친다. 직원들은 AI 시스템을 직접 만들지 않았기 때문에 사용의 불편함을 느끼면 사용하지 않는다. 내부 직원이 자신들이 원하는 AI 시스템을 직접 구축하는 것이 바람직하다.

직원들이 직업 AI와 노코드 툴을 활용해서 시스템을 만들도록 해야 한다.

최근 다양한 노코드 툴이 등장하면서, 내부 직원들이 자신이 사용하는 업무 시스템을 직접 개발할 수 있는 환경이 마련되고 있다. AI 팀은 이러한 노코드 툴의 표준을 정하고, 부서별로 만든 애플리케이션을 심사해 우수한 직원에게 인센티브를 제공함으로써 AI 도입과 활용을 촉진할 수 있다.

AI를 잘 활용하는 직원들을 'AI Star'로 우대해야 한다.

2000년대의 6시그마 운동이 제조업의 품질 향상에 큰 기여를 했던 것처럼, AI 도입에서도 이를 선도하는 직원들을 'AI Star'로 지정하고, 포상과 인센티브를 제공해야 한다. 6시그마 운동이 성공할 수 있었던 이유 중 하나는 그린벨트, 블랙벨트로 지정된 직원들에게 우대와 보상을 제공했기 때문이다. AI 도입도 이러한 선진적인 보상 체계를 통해 성공적으로 확산될 수 있을 것이다.

장동인 KAIST 김재철AI대학원 책임교수 donchang@kaist.ac.kr