기업 67%, 생성형 AI 투자 늘리지만…경영진 관심도는 하락세

민감한 데이터 사용
개인정보, 데이터 보안 등 우려
생성형 AI 도입 가로막아
생성형 AI 기대 효과 늘어가는 중
성과 평가 엄격한 측정 기준 마련도 필수
한국 딜로이트 그룹 리포트 발행

비즈니스 환경에서 생성형 AI의 다양한 활용이 확대되고 있는 가운데, 딜로이트 안진회계법인과 딜로이트 컨설팅 코리아로 구성된 한국 딜로이트 그룹이 ‘기업의 생성형 AI 사용 현황 2024년 3분기’ 리포트를 발간했다.

본 리포트는 미국, 영국, 인도, 일본 등 14개국 2770명의 이사회 및 이사회 구성원, 사장, 부사장, 이사급 임원 등 리더를 대상으로 설문조사를 실시해, AI 확장을 위한 데이터와 거버넌스, 리스크와 규정 준수는 물론 조직이 AI 가치를 측정하고 전달하는 방식을 심층적으로 분석했다.

◆ 고위 경영진 및 이사회, 생성형 AI 관심도 감소

현재 조직들은 생성형 AI 도입을 통해 실제 가치를 끌어내는 데 성공하고 있으며, 조직의 67%는 생성형 AI에 대한 투자를 더욱 늘리고 있다고 밝혔다.

응답자의 42%는 생성형 AI 이니셔티브를 통해 효율성 및 생산성 향상과 비용 절감을 중요한 성과로 꼽았으나, 58%는 혁신 촉진(12%), 제품 및 서비스 개선(10%), 고객 관계 강화(9%) 등 그 외 혜택이 더 크다고 응답했다.

고위 경영진(63%)과 이사회(53%)도 여전히 생성형 AI에 대한 높은 관심을 보이고 있지만 이 수치는 1분기 대비 각각 11%포인트와 8%포인트 하락한 것으로 나타났다.

생성형 AI 프로젝트를 신속하게 선택하고 확장하는 것이 중요한 목표지만, 응답자의 대다수(68%)가 아직 조직의 생성형 AI 실험의 30% 이하만 비즈니스에 접목되어 활용 단계로 전환되었다고 답한 것도 눈길을 끈다.

생성형 AI 이니셔티브 확장에 있어 응답자들은 기술 인프라(45%)와 데이터 관리(41%)가 가장 잘 준비되어 있다고 답했으며 전략(37%), 리스크 및 거버넌스(23%), 인재(20%)에 대한 준비는 미흡한 것으로 나타났다.

데이터 소스의 문서화와 라벨링의 중요성이 커지고 있고, 데이터 액세스 프레임워크와 리터러시(Literacy)에도 많은 주의가 필요하다.

조직이 가장 우려하는 사항으로 민감한 데이터의 사용(58%), 데이터 개인정보 보호 문제(58%), 그리고 데이터 보안 문제(57%)인 것으로 집계된 가운데 많은 조직은 데이터 보안을 강화하는 것(54%) 등의 대응을 추진하고 있다.

생성형 AI 툴 및 애플리케이션의 성공적인 개발 및 도입과 관련해서는 기업들이 규제의 불확실성으로 인해 어려움을 겪고 있었으며, 설문에 참여한 조직의 14%는 구체적인 대응 계획조차 세우고 있지 않았다.

생성형 AI 이니셔티브의 가치 측정 및 전달에 대한 관심이 높아지고 있는 가운데 41%의 조직은 생성형 AI 노력의 정확한 영향을 정의하고 측정하는 데에도 어려움을 겪고 있다.

과반수(54%)의 조직은 효율성과 생산성 향상을 목표로 하고 있지만, 실제로 직원 생산성의 변화를 추적하고 있는 비율은 38%에 그쳤으며 CFO를 위한 정기 보고서를 작성한다고 답한 조직은 16%에 머물렀다.

추가로 비용이 생성형 AI 이니셔티브에 대한 의사 결정의 핵심 요소가 될 것이라는 의견도 나왔다.

앞으로는 생성형 AI 이니셔티브에 대한 투자의 가치를 완전히 이해하기 위해 재무 및 비재무 측정 지표를 종합적으로 활용할 필요가 있다는 것이 딜로이트의 설명이다.

◆ 비즈니스 프로세스 근본적 재창조…엄격한 성과 검증도 필수

보고서는 적절한 곳에 생성형 AI를 활용해 효율성, 생산성, 비용 절감을 실현하고 더 많은 가치를 창출해야 한다고 조언했다.

생성형 AI가 다른 기술 및 전략적 이니셔티브와 결합해 생산성을 향상시키고 혁신을 이끌어낼 수 있는 방법을 고안하는 한편 비즈니스 프로세스를 근본적으로 재창조해 지속 가능한 가치를 지향, 변화를 위해 나아가라 조언했다.

공개된 대규모 언어 모델(LLM)과 퍼블릭 데이터를 활용해 효율성과 생산성을 키우는 것이 더 일반화될 것으로 예상되기에 기업들은 기본에 충실하면서 변화에 대한 적응성도 강화해야 한다.

또 고품질 데이터 부족 문제를 직시, 데이터 기반을 개선하고 B2B 파트너, 데이터 최종 사용자, 타사 데이터 제공업체 등 데이터 에코시스템의 구성원과 전략과 관계 등을 강화해 데이터를 촉매제로 활용하는 것이 중요하다.

나아가 생성형 AI 기술이 발달하며 원대한 비전, 희망적 사고에 의존적 투자가 늘어날 가능성이 있는 가운데 성과를 더욱 엄격한 기준으로 측정하는 것도 필수다.

김진숙 한국 딜로이트 그룹 리스크 자문 부문 파트너는 “이제 생성형 AI 이니셔티브를 통해 지속적인 가치를 창출해야 하며 이를 위해 데이터 및 거버넌스와 리스크, 규정 등 조직의 AI 가치 창출이 더 절실해졌다”면서 “이번 리포트를 통해 조직의 생성형 AI 이니셔티브의 실질적 활용에 대한 의미 있는 인사이트를 얻어가기를 바란다”고 말했다.

한편, ‘기업의 생성형 AI 사용 현황 2024년 3분기’ 리포트 전문은 딜로이트 홈페이지(Link)에서 확인할 수 있다.