"생성 AI에 대규모로 투자한 기업은 거의 없다"

투자 여력 부족, 기술 및 조건 미성숙 등 이유로 신중론 대세

(지디넷코리아=김우용 기자)생성형 인공지능(AI) 올 한해 많은 관심을 받았지만, 관심에 비해 대규모 투자는 이뤄지지 못한 것으로 조사됐다. 기업의 투자금 여력이 부족하고, 아직 미성숙한 생성 AI의 불투명성 때문에 공격적 투자를 주저하는 것으로 분석된다.

최근 미국지디넷은 최근 발간된 내시스퀘어드의 연례 디지털 리더십 보고서에서 전세계 기술 리더 10명 중 1명만 AI를 대규모로 구현한 것으로 나타났다고 보도했다.

내시스퀘어드는 AI에 큰 돈을 지출하는 비율이 지난 5년간 변하지 않았다고 밝혔다. 그러나 베브 화이트 내시스퀘어드 최고경영자(CEO)는 맥락에 맞게 수치를 배치해야 한다고 강조했다.

(사진=이미지투데이)

그는 현재 AI에 큰 비용을 지출하는 기업은 없지만, 많은 조직에서 새로운 기술 조사를 시작하고 있다는 점을 분명히 했다. 그는 "AI에 대한 관심은 프로덕션 단계보다 연구 단계에 있다"고 말했다.

그는 AI의 현 상황을 클라우드로 막 이동하기 시작하던 10년 전 상황과 비교했다. 그는 "클라우드가 실제로 도약하기 시작했을 때 우리가 본 게 바로 이것이었다"며 "그것은 '발끝을 물에 담그고 정책, 데이터, 개인정보보호, 교육 등에 대한 모든 의미가 무엇인지 이해하자' 였다"고 설명했다.

그는 "기업은 작지만 의미있는 시험을 통해 자신만의 사용 사례를 만들고 있었다"며 "지난번에도 그랬고, 이번에도 그런 일이 일어나고 있다는 게 놀랍지 않다"고 덧붙였다.

현재 기업이 AI에 투자를 주저하는 이유는 두가지로 요약됐다.

우선 코로나19 대유행 기간과 직후 IT에 대한 막대한 투자로 당장 동원할 현금 여력이 부족하다. 지금은 투자 수익화 방안에 더 집중하고 있다.

화이트는 "아직 강력한 디지털 혁신 프로젝트를 수행하는 동안에도 소규모의 신중하고 잘 계획된 파일럿은 조직에 큰 변화를 가져올 것"이라고 밝혔다.

또 다른 이유는 미성숙한 신기술의 위험성이다. 생성 AI는 아직 초기 개발단계로 빠른 속도로 진화하고 변화한다. 이는 새로운 기회를 만들기도 하지만, 위험도 가져온다.

화이트는 "대기업의 CIO나 CTO는 AI로 무엇을 하고 있는지 확신하고 싶어한다"며 "비즈니스에서 일하는 사람을 보호하기 위해 무엇이 필요한지, 노출에 대해 생각해야 할 정도로 큰 위험이 있다"고 설명했다.

그는 특히 타인의 소유 데이터를 활용해 모델을 훈련할 수 있는 가능성과 관련해 AI 보안과 개인정보보호의 중요성을 강조했다. 이 문제는 자칫 소송으로 번질 수도 있다.

그는 "생성 AI가 나쁘다는 게 아니라 데이터의 출처와 그 정보를 바탕으로 내리는 결정을 매우 의식적으로 인식해야 한다는 것"이라고 강조했다.

내시스퀘어드의 보고서는 디지털리더 15%만 생성 AI 요구사항에 준비됐다고 느낀다고 답했다고 밝혔다. 현재 AI를 안전하게 구현하는 방법도 명확하지 않고, 머지 않은 미래에 갑작스러운 방향 전환 가능성도 크다는 점을 고려하면 납득되는 수치다.

화이트는 "보안, 안전, 비즈니스 내 기술 사용에 대한 평판 등에 책임을 가졌다면 모든 것을 철저히 고려하고 이사회를 교육하는 게 좋은 방법"이라며 "많은 최고경영자는 AI가 경쟁우위를 제공할 것이기 때문에 자신의 조합 어딘가에 AI를 둬야 한다는 걸 알고 있지만, 실제론 발견 단계이므로 아직 어디에 있는지 모른다"고 밝혔다.

조사 결과 글로벌 조직의 21%만 AI 정책을 마련했으며, 36%는 AI 정책을 만들 계획이 없다고 답했다. 화이트는 "잠재적인 관문과 실패 지점을 생각하는 사람이 혁신적인 프로젝트를 시작하지 않는다"며 "대부분 낙관적인 사람에 의해 시작되며, 그런 다음 프로젝트와 데이터를 안전하게 유지하기 위해 주변에서 어떤 문을 닫아야 하는지 파악한다"고 설명했다.

조사 결과 전세계 CIO들은 강력한 거버넌스의 필요성에 동의한 것으로 나타났다. 대부분의 디지털 리더는 조직 내 AI의 안전한 연구에 도움을 줄 수 있는 규정을 찾고 있다. 단 이들은 산업계나 정부비관의 AI 규제가 효과적일 것이란 확신도 갖고 있지 않다.

디지털 리더의 88%는 더 엄격한 AI 규제가 필요하다고 생각했는데, 61%는 더 엄격한 규제가 신기술에 수반되는 모든 문제와 위험을 해결하지 못한다고 답했다.

황트는 "항상 반격할 수 있는 허수아비가 필요하고, 자신의 생각을 반대할 수 있도록 업계와 정부로부터 지침을 받는 게 좋다"며 "반드시 마음에 들지 않을 것이지만, 그것이 실행돼 법으로 제정되면 갑자기 그것을 고수하고 그 지침을 준수할 방법을 찾아야한다"고 말했다.

그는 "규제는 축복이자 저주일 수 있다"고 강조했다.

AI의 빠른 발전 속도에 규제가 느리게 나타난다고 해도 기업이 기술 조사를 소홀히 할 이유는 못 된다. 디지털리더 중 보안책임자의 경우 기업 내에서 AI 사용을 위한 자체 가드레일을 당장생각해야 한다고 화이트는 강조했다.

그는 "내시스퀘어드의 CISO는 생성 AI가 사이버 범죄자에게 어떻게 진정한 선물일 지 생각해왔다"며 "이는 중요하고 큰 데이터 덩어리에 무해하게 문을 열 수 있으며, 비밀 소스 접근을 의미할 수도 있다"고 말했다.

그는 "위험을 저울질해야 한다"며 "주목할 만한 AI 사고에 대비하라"고 경고했다.

데이터 유출, 환각, 소송 등 AI로 벌어질 여러 유형의 사건사고는 새로운 기술의 탐구를 잠시 멈추게 하고 반성하게 한다.

화이트는 "리더로서 우려를 해야 하지만, 또한 호기심도 필요하다"며 "더 가까이 다가가서 참여해야만 밖에 있는 기횔르 볼 수 있다"고 조언했다.

김우용 기자(yong2@zdnet.co.kr)