유재성 퓨어스토리지코리아 사장
오늘날 기업들이 인공지능(AI)을 도입하는 방식은 크게 두 가지로 나뉜다. 일부 조직은 빠른 투자수익률(ROI)을 위해 서둘러 솔루션을 구현하는 반면, 다른 조직은 장기적 관점에서 연구개발 투자를 통해 미래의 성과를 기대하는 모습이다. AI 도입 과정에는 기술 부족, 전력 사용, 공급망 문제, 제한된 예산 등의 공통적인 과제들이 따른다. 대규모 AI 구현에는 최소 1270만 달러 (약 173억원) 이상의 비용이 소요되므로 처음부터 적절한 리소스와 기술에 투자해 추후의 비용 부담을 줄이는 것이 중요하다.
뚜렷한 AI 투자 추세
글로벌 시장조사기관 스태티스티카(Statistica)에 따르면 2013년부터 2022년까지 기업들이 AI 기술에 투자한 금액은 약 9342억 달러로 매년 꾸준히 늘어나고 있다. 생성형 AI의 등장으로 AI 지출은 더욱 증가하고 있으며 마이크로소프트·구글·아마존 등 주요 빅테크 기업이 이끌고 있다. 맥킨지(McKinsey)는 2023년을 생성형 AI의 '획기적인 해'로 평가하며 설문 응답자의 3명 중 1명은 조직에서 최소 하나의 비즈니스 부문에서 AI를 활발히 사용하고 있다고 답했다.
AI에 대한 투자 추세는 뚜렷이 늘고 있는 것이 사실이지만 그 이면에는 AI 구현을 위해 투입되는 비용 부담이 막대하다는 사실도 잊지 말아야 한다. 인프라와 인력 비용 외에 환경에 미치는 영향과 에너지 사용량까지 고려해야 하기 때문이다. 따라서 기업들은 AI 프로젝트의 수익화와 ROI에 대한 명확한 경로를 확보해 지출을 정당화하고 필요한 인프라를 구매하며, 규제 요건을 충족하기 위해 탄소 배출을 줄여야 한다.
성공적인 AI 기반 마련하기
여러 도전과제가 있음에도 불구하고 성공적인 AI 프로젝트는 기업에 혁신적인 이점과 가치를 가져다 줄 수 있다. 대부분의 산업이 AI 구현 초기 단계에 있지만 유의미한 사용 사례가 쌓이면서 AI 도입이 증가하고 있다. 이제는 AI 중심의 미래를 위한 견고한 기반을 마련할 시점이다.
이처럼 성공적인 AI 구현을 위해 조직이 반드시 챙겨야 할 핵심 사항들이 있다. 먼저 그래픽처리장치(GPU)의 접근성이다. 공급망은 모든 AI 프로젝트의 시작 단계부터 평가하고 고려해야 한다. 특히 GPU 수급 문제는 AI 프로젝트의 성공을 좌우할 만큼 중요하다. GPU 수급이 어려워지면 일부 기업은 호스팅 서비스 제공업체를 통해 AI 구현을 해야 할 수도 있다.
다음으로 데이터센터 내 전력 및 상면 공간 확보이다. AI는 방대한 데이터 세트를 처리하기 때문에 데이터센터의 전력과 공간에 실질적인 문제를 야기한다. 오늘날 AI 구현에는 랙(RU)당 40~50킬로와트의 전력이 필요한데 이는 현재 데이터센터들이 감당할 수 있는 수준을 뛰어넘는다. 데이터센터는 높은 밀도의 광섬유와 더 빠른 속도의 네트워킹이 필요하다. 플래시 기반 데이터 스토리지 기술은 하드디스크드라이브(HDD) 대비 전력과 공간 효율성이 뛰어나므로 에너지 문제를 완화하는 데 큰 도움이 된다.
방대하고 다양한 데이터 세트를 관리하고 활용하는 것도 매우 중요하다. AI 프로젝트는 방대한 데이터 세트를 활용해 AI 모델을 학습시키고 인사이트를 도출한다. 모델에 새로운 데이터를 도입하면 결과가 어떻게 달라질 수 있는지 이해하는 것이 중요하다. 데이터 모델과 대규모 데이터 세트를 이해하는 모범 사례로는 '체크포인트'를 도입해 데이터와 매개변수 변경의 의미를 더 잘 이해할 수 있다. 인터넷 데이터를 사용하는 윤리적 문제와 출처 검증, 거대언어모델(LLM) 또는 검색 증강 생성(RAG)벡터 데이터 세트의 선택된 데이터를 제거할 때의 영향도 충분히 고려되어야 한다.
마지막으로 인력에 대한 투자다. AI 여정을 시작하는 모든 조직은 사내 기술 부족 문제에 직면하게 된다. 전 세계적으로 AI 관련 기술을 갖춘 데이터 과학자나 전문가가 수요를 감당할 만큼 충분치 않다. 인재 확보의 어려움은 고액의 연봉으로 이어지고 있으며 이는 향후 5~10년 동안 어려운 숙제로 남을 것이다. 따라서 조직은 채용을 통해 인재 확보에 많은 투자를 해야 할 뿐만 아니라 내부적으로 기존 인력을 교육하는 데도 투자해야 한다.
AI 도입은 단순히 새로운 기술을 적용하는 것을 넘어 비즈니스 모델을 혁신하고 지속가능한 성장을 도모하는 근본적인 변화의 시작점이다. 이러한 변화를 성공적으로 이끌어내기 위해서는 기술적, 환경적 그리고 인적 요소를 종합적으로 고려한 전략적인 접근이 필수적이다. AI의 잠재력을 극대화할 수 있도록 지속적인 학습과 혁신을 추구하며 신뢰할 수 있는 파트너와의 협력으로 보다 탄탄한 기반을 구축해 나가야 할 것이다. 이제 기업은 AI 중심의 미래에서 살아남기 위해 지금부터 철저한 준비와 실행을 통해 각자의 비전을 현실로 만들어가야 한다.
박현준 기자
Copyright © 블로터