AI 믿고 맡겼는데… 불량 못 잡고 숫자도 틀리네

도입 실패 사례도 잇따라

생성형 AI 로고/제미나이 생성 이미지

국내 한 배터리 제조사는 2년 전 AI(인공지능) 비전 방식으로 불량품을 골라내는 기술을 도입했다. AI가 배터리 포장재의 미세한 구김, 빛 반사, 흠집 등을 찾아내는 기술이다. 이 기술 도입으로 품질 검사 속도를 높이려고 했지만 한 달 만에 계획을 철회했다. AI가 불량으로 판단한 제품을 실제 사람이 육안으로 확인했을 때는 이상이 없거나, 반대로 AI가 정상이라고 판단했지만 육안으로는 불량품인 경우가 속출했기 때문이다. 배터리 업계 관계자는 “품질 관리는 수율을 좌우하는 일인데 AI에만 일을 맡겼다가 큰일 나겠다는 생각이 들었다”며 “AI 기술 완성도가 높아지기 전까지 품질 관리에서 사람을 빼는 일은 없을 것”이라고 말했다.

생성형 AI가 산업 영역에서 실제로 기대한 만큼의 역할을 해내지 못하는 사례가 잇따라 나오고 있다. AI의 학습 능력 한계, 성능 부족, 환각 현상, AI 활용 능력 부재 등이 겹치면서 AI 도입 프로젝트가 중단되고 있는 것이다. 서용운 계명대 글로벌 창업대학원 벤처창업학과 교수는 “프로젝트 성격에 따라 데이터의 양, AI 학습 구조 설계를 체계적으로 하지 않는다면 원하는 결과를 도출할 수 없다”고 말했다.

◇AI 프로젝트 도입 실패 사례 잇따라

국내 한 대기업 기획팀 직원 A씨는 올해 초 각 부서별 성과를 한눈에 볼 수 있게 정리하는 업무를 맡았다. 그는 부서별로 취합한 자료를 AI에 모두 올린 뒤 리스트 정리를 명령했다. 그러나 AI는 숫자 단위를 다르게 적거나 부서명을 바꾸고 매출 순위까지 뒤죽박죽 섞어 놓았다. 부서마다 사용하는 서식이 다르고 이미지 파일 인식에도 오류가 발생했기 때문이다. 수십 차례 프롬프트를 바꿔가며 수정을 지시했지만 결국 AI는 일을 해내지 못했다.

10대 그룹 홍보팀도 지난해 중순부터 보도자료나 기획 자료를 AI에 맡기려고 자체적으로 AI를 개발하거나 AI 툴 도입을 시도했다. 그러나 실제 AI를 활용해보니 잦은 환각과 실수로 팩트가 틀리는 경우가 발생했다. 이 회사 관계자는 “매출이나 영업이익의 숫자 하나가 기업 가치에 엄청난 영향을 미치기 때문에 순간 아찔했다”고 말했다.

이처럼 AI 도입 프로젝트가 실패로 돌아가는 것은 전 세계적인 현상이다. 미국 매사추세츠공과대학(MIT) 산하 NANDA(Networked Agents and Decentralized AI) 이니셔티브가 지난해 7월 발표한 ‘생성형 AI의 격차: 2025년 기업 내 AI 현황’ 보고서에 따르면, 생성형 AI에 300억~400억달러를 투자한 52개 기업의 생성형 AI 구축 사례 300여 건 가운데 실제 매출 성장을 기록한 프로젝트는 5%에 그친 것으로 나타났다. 95%는 실패했다는 것이다. 보스턴컨설팅그룹(BCG)도 비슷한 조사 결과를 내놨다. 지난해 9월 전 세계 1250개 기업을 상대로 조사한 ‘커지는 AI 성과 격차’ 보고서에 따르면, AI를 전사적으로 활용해 대규모 가치를 만들어내는 기업은 5%에 그쳤고 60%는 아무런 실질적인 성과를 내지 못하는 것으로 나타났다

◇AI는 마술사 ‘지니’가 아니다

AI 업계에선 기업의 생산성을 높이려면 사람이 아닌 AI가 제대로 일할 수 있도록 업무 환경을 다시 꾸미는 사전 작업부터 선행돼야 한다고 본다. 그렇지 않으면 보고서 초안 작성이나 정보 검색을 뛰어넘는 고차원적인 업무를 맡기기는 어렵다는 것이다.

전문가들은 AI에 업무 몇 가지를 맡기는 단순 업무 효율화 정도로는 AI를 통한 생산성 혁신을 달성할 수 없다고 본다. 구글 출신인 조용민 이타카앤파트너스(벤처캐피털) 투자총괄 대표는 “현재 일부 기업에서 8시간 걸리던 일을 AI를 활용해서 5분 만에 끝냈다는 것을 자랑하지만 그렇다고 7시간 먼저 퇴근하지 않는다”면서 “이런 정도의 AI 활용에만 그친다면 AI 인텔리전스는 폭발적으로 성장하더라도 인류의 삶을 바꾸는 일은 50~100년이 걸릴 수 있다는 회의론이 실리콘밸리에서 제기되고 있다”고 했다.