“경영진, 생성형AI 관심 줄었다”...관심에서 활용 단계로 넘어가

한국 딜로이트 그룹 리포트 발간
‘기업의 생성형AI 사용 현황 2024년 3분기’

한국 딜로이트 그룹

비즈니스 환경에서 생성형 AI의 활용이 확대되는 가운데, 딜로이트 안진회계법인과 딜로이트 컨설팅 코리아로 구성된 한국 딜로이트 그룹(대표이사 홍종성)이 ‘기업의 생성형 AI 사용 현황 2024년 3분기’ 리포트를 발간했다고 밝혔다. 이 리포트는 미국, 영국, 인도, 일본 등 14개국에서 2770명의 이사회 구성원, 사장, 부사장, 이사급 임원 등 리더를 대상으로 설문조사를 실시해, AI 확장을 위한 데이터와 거버넌스, 리스크와 규정 준수, 그리고 조직이 AI 가치를 측정하고 전달하는 방식을 심층적으로 분석했다.

고위 경영진 및 이사회, 생성형 AI에 대한 관심 감소

조직들은 생성형 AI 도입을 통해 실제 가치를 창출하고 있으며, 67%는 생성형 AI에 대한 투자를 확대하고 있다고 응답했다. 응답자의 42%는 효율성과 생산성 향상 및 비용 절감을 주요 성과로 꼽았으나, 58%는 혁신 촉진(12%), 제품 및 서비스 개선(10%), 고객 관계 강화(9%) 등 더 큰 혜택을 보고 있다고 응답했다. 고위 경영진(63%)과 이사회(53%)의 생성형 AI에 대한 관심은 여전히 높지만, 이는 1분기 대비 각각 11%포인트와 8%포인트 하락한 수치다.

생성형 AI 프로젝트를 빠르게 선정하고 확장하는 것이 중요한 목표로 나타났지만, 대다수 응답자(68%)는 조직 내 생성형 AI 실험 중 30% 이하만이 비즈니스에 적용돼 실질적인 활용 단계로 전환됐다고 밝혔다. 또한, 생성형 AI 이니셔티브 확장에 있어 응답자들은 기술 인프라(45%)와 데이터 관리(41%)는 준비가 잘 되어 있다고 평가한 반면, 전략(37%), 리스크 및 거버넌스(23%), 인재(20%)에 대한 준비는 부족하다고 응답했다.

데이터 관리와 보안 문제 대두

데이터 소스 문서화와 라벨링의 중요성이 커지고 있으며, 데이터 접근 프레임워크와 리터러시도 중요한 이슈로 부각되고 있다. 조직들이 가장 우려하는 사항으로는 민감한 데이터 사용(58%), 데이터 개인정보 보호 문제(58%), 데이터 보안 문제(57%)가 꼽혔으며, 이에 대응해 많은 조직이 데이터 보안 강화(54%)를 추진하고 있다. 생성형 AI 툴과 애플리케이션의 성공적인 개발 및 도입과 관련해 많은 기업들이 규제의 불확실성으로 인해 어려움을 겪고 있으며, 설문에 응한 조직 중 14%는 아직 구체적인 대응 계획조차 마련하지 못한 상황이다.

성과 측정의 어려움과 투자 결정

한국 딜로이트 그룹

생성형 AI 이니셔티브의 가치 측정과 전달에 대한 관심이 높아지는 가운데, 41%의 조직은 생성형 AI 노력의 정확한 영향을 정의하고 측정하는 데 어려움을 겪고 있다고 답했다. 과반수(54%)의 조직이 효율성과 생산성 향상을 목표로 하고 있지만, 실제로 직원 생산성의 변화를 추적하는 비율은 38%에 그쳤으며, CFO를 위한 정기 보고서를 작성하는 조직은 16%에 불과했다.

비용은 생성형 AI 이니셔티브에 대한 의사 결정의 핵심 요소로 지목됐다. 딜로이트는 생성형 AI 투자의 가치를 완전히 이해하기 위해 재무 및 비재무 측정 지표를 종합적으로 활용할 필요가 있다고 강조했다.

비즈니스 프로세스 재창조와 성과 검증

보고서는 생성형 AI를 적절히 활용해 효율성, 생산성, 비용 절감을 실현하고 더 많은 가치를 창출할 것을 권고했다. 생성형 AI가 다른 기술 및 전략적 이니셔티브와 결합해 생산성을 향상시키고 혁신을 촉진할 수 있는 방법을 모색하는 동시에, 비즈니스 프로세스를 근본적으로 재창조해 지속 가능한 가치를 창출하는 것이 중요하다고 조언했다.

공개된 대규모 언어 모델(LLM)과 퍼블릭 데이터를 활용해 효율성과 생산성을 높이는 것이 더 일반화될 전망이며, 기업들은 기본에 충실하면서 변화에 대한 적응성을 강화해야 한다. 또 고품질 데이터 부족 문제를 해결하기 위해 데이터 기반을 개선하고, B2B 파트너, 데이터 최종 사용자, 타사 데이터 제공업체 등과의 협력을 강화해 데이터를 촉매제로 활용하는 것이 중요하다고 보고서는 지적했다. 나아가 생성형 AI 기술이 발전하면서 지나치게 낙관적인 투자가 증가할 가능성이 있는 만큼, 성과를 더욱 엄격하게 측정하는 것이 필수적이다.

김진숙 한국 딜로이트 그룹 리스크 자문 부문 파트너는 “생성형 AI 이니셔티브를 통해 지속적인 가치를 창출해야 하며, 이를 위해 데이터와 거버넌스, 리스크, 규정 준수 등에서 조직의 AI 가치 창출이 더 절실해졌다”면서 “이번 리포트를 통해 조직들이 생성형 AI 이니셔티브의 실질적 활용에 대한 의미 있는 인사이트를 얻어가길 바란다”고 말했다.