[기고]생성형 AI 도입을 위한 전략

김현정 한국IBM 컨설팅 대표

생성형 AI에 대한 뜨거운 관심이 계속되고 있다. 일시적인 유행에 그치지 않을 것으로 보인다. 올해 IBM이 발표한 ‘AI 시대의 CEO 의사결정, 의도를 가지고 행동하라’ 보고서에 따르면 조사 대상 기업 중 50%가 이미 제품과 서비스에 생성형 AI를 통합하고 있다고 한다. 조사 시점 기준으로 생성형 AI가 대중에 알려진 지 불과 5개월 만의 결과다. S&P 글로벌마켓인텔리전스에 따르면 생성형 AI 시장 규모 또한 2023년 37억 달러에서 2028년 364억 달러로, 5년 만에 10배 가까이 성장할 것으로 전망된다.

본인 또한 현업에서 컨설팅을 하며 많은 기업들의 개념증명(PoC) 프로젝트를 진행하고 그 열기를 직접 체감하고 있다. 이전에는 AI 도입에 많은 시간과 노력이 필요했다면, 최근 업그레이드된 생성형 AI 플랫폼을 통해 효율성을 더욱 높일 수 있기 때문에 더욱 각광받고 있는 것으로 보인다. 특히, 생성형 AI의 답변을 통해 고객 참여 유도가 강화된 점과 함께 문서, 자료 요약, 코딩 등 업무 생산성이 월등히 향상됐다는 점을 높이 평가한다.

하지만 이 조사에서 경영진의 29%만이 생성형 AI를 도입할 수 있는 사내 전문성을 갖추고 있다고 했으며, CEO가 아닌 고위 임원은 30%만이 기업이 생성형 AI를 책임감 있게 도입할 준비가 돼 있다고 응답했다. 즉, AI 도입은 모두 원하고 있지만 전문적으로 어떻게 도입할지에 대해서는 아직 공부가 더 필요한 것이다.

지금까지의 경험에 비춰봤을 때, 기업들이 성공적으로 생성형 AI를 도입하기 위해 반드시 고려할 사항은 전략이다. AI를 실제로 도입하는데 급급해 어떤 전략을 기반으로, 어떤 목적을 이루기 위해 기술을 도입할 것인지에 대한 심도 있는 논의를 놓치면 안 된다.

가장 중요한 고려 사항은 동일한 기업이라도 부서마다 각자 필요한 사용 사례에 따라 적합한 AI 모델은 상이할 수 있다는 점을 인식하는 것이다. AI 솔루션은 만능이 아니기에 각 모델별로장단점이 있다. IBM의 경우 생성형 플랫폼 왓슨x 내에서 HR, 고객 서비스, 재무 등 다양한 업무에 특화된 모델들을 지원하고 고객이 필요로 한다면 미세 조정을 통해 보다 빠른 시간 안에 업계 지식을 이식할 수 있다.

이처럼 다양한 솔루션 중 자사의 비즈니스에 맞는 솔루션이 무엇인지 검토한 이후 최적의 선택을 해야 한다. 만약 멀티 모델이 필요하다면, 특정 벤더에 종속되지 않도록 다양한 솔루션을 활용할 수 있는 플랫폼을 찾아보는 것도 방법이다.

개방형 접근 방식 또한 생각해 볼만한 문제다. 개방형 공간에서 일어날 혁신은 독점적인 공간에서 일어날 혁신을 능가하는 속도로 가속화되기 마련이다. 이는 지난 110여년간 다양한 기술 분야에서 축적해 온 전문 역량을 갖춘 IBM이 산증인이기도 하다. IBM은 그간 개방적 에코시스템을 통한 공존이 업계 전체는 물론, 자사의 비즈니스에도 도움이 된다는 것을 확인했다. 하이브리드 클라우드를 선도하며 레드햇 오픈시프트 내 아마존웹서비스(AWS), 마이크로소프트 등의 클라우드 솔루션을 지원하고 있고, 양자컴퓨터는 클라우드 방식으로 누구나 접근해 사용할 수 있게 열어 뒀다. AI 기술 측면에서도 AWS, 어도비, SAP를 비롯한 글로벌 파트너사와 지속적으로 협업하고 있다.

생성형 AI를 성공적으로 도입하고, 의미 있는 성과를 내려면 결국 프로세스를 바꿔야 한다. 단순히 기술적 측면에서만 접근하기보다는 핵심 프로세스가 AI를 통해 어떻게 변화되는지, 변화를 위해 기업은 어떤 준비를 해야 하는지를 고민해보는 시간을 먼저 가지기를 바란다.

송길호 (khsong@edaily.co.kr)