"생성형AI에 기업생존 달려 … 특화 데이터 활용, 기회 잡아야"

김현정 한국IBM 컨설팅 대표
신기술 장벽 낮은 한국기업
생성형AI 주도권 다툼 시작
업무방식·사업구조 바꾸고
신성장동력으로 육성 나서
기업간 AI 동맹도 잇따라

김현정 한국IBM 컨설팅 대표가 8월 11일 서울 여의도 IFC 내 한국 지사에서 매일경제신문과 인터뷰를 하고 있다. 김호영 기자

생성형 인공지능(AI)을 둘러싼 국가 간, 기업 간 경쟁이 날로 치열해지고 있다. 대규모언어모델(LLM)과 같은 원천 기술력을 갖고 있는 빅테크들은 AI 주도권을 쥐기 위해 막대한 자금을 쏟아부으며 성능 개선에 주력하고 있다.

비단 기술 기업이 아니더라도 일반 회사들 역시 이러한 AI 모델을 자사 비즈니스에 이식해 새로운 성장동력을 확보하려는 움직임이 활발하다.

현재 정보기술(IT) 업계를 넘어 국내외 모든 기업의 공통된 화두로 거론되고 있는 생성형 AI. 김현정 한국 IBM 컨설팅 대표를 만나 '기업의 생산성 향상과 생성형 AI 전략'을 주제로 현장의 다양한 얘기를 들어봤다.

―우선 국내외 기업 분위기는.

▷지난해 11월 오픈AI 챗GPT가 등장한 이후 불과 1년이 채 되지 않은 시점이지만 이미 많은 기업이 AI를 필수 어젠다로 다루고 있어 놀라웠다. IBM 기업가치연구소(IBV)가 지난 4~5월 미국 주요 글로벌 기업 최고경영자(CEO) 200명을 대상으로 설문조사한 결과에서도 데이터로 확인한 내용이다. CEO 4명 중 3명(75%)은 가장 발전된 생성형 AI를 보유한 조직이 경쟁 우위를 점할 것이라고 예상했다. 특히 이번 설문에 참여한 CEO 가운데 절반(50%·이하 복수응답 기준)은 이미 생성형 AI를 자사 제품이나 서비스에 통합하고 있다고 답했다. 또 43%는 전략적 의사 결정에, 36%는 운영상 의사 결정에 생성형 AI를 활용하고 있다고 응답했다. 머신러닝(ML) 등 기존 AI로는 기업이 도입하는 과정에서 모델 훈련부터 사업화가 이뤄지기까지 오랜 시간이 걸리고 투자수익률(ROI)도 잘 나오지 않아 꺼릴 수밖에 없었다. 하지만 생성형 AI는 이러한 길고 힘든 과정을 대폭 줄여줘 기업들 역시 관련 모델 도입을 좀 더 속도감 있게 바라보고 대응하고 있다.

―AI 도입 시 고려되는 사항은.

▷일례로 한국 기업만 갖는 특징이 있다. 기본적으로 한국 기업들은 생성형 AI라는 기술에 대한 기대가 굉장히 높고, 이 기술을 빨리 활용해야겠다는 의지도 크다. 그만큼 한국 CEO들은 신기술에 대한 학습을 어느 나라보다도 가장 많이 배우고 체득하려는 진취적인 태도를 보인다. 생성형 AI만 놓고 보면 이를 빠르게 비즈니스에 적용하고 유익한 결과물을 얻겠다는 목표가 강하다. 다만 이 과정에서 한국 CEO들은 AI를 도입하는 데 유독 모델 성능에 대한 관심이 높은 편이다. 상대적으로 중요도 있게 함께 고려돼야 하는 신뢰성이나 운영 비용, 보안 관리 등 요소는 자칫 논의가 뒤로 밀리는 경우가 종종 목격된다. 물론 기본적으로 모델 성능 자체도 중요하지만, AI 도입에 따른 불확실성 요소를 제거하는 것 역시 동시에 수반돼야 한다.

―해외 기업들은 어떠한가.

▷단적인 예로 데이터 소스에 대한 책임 소지를 들 수 있다. 미국이나 유럽에선 AI가 학습하는 데이터에 대한 기업의 이해관계 등 관련 리스크가 중점적으로 다뤄지고 있다. 반면 한국에선 이러한 이슈가 모델의 성능 부문과 견줘 상대적으로 덜 관심을 받고 있는 듯하다. 앞선 설문에서도 미국 경영진은 편견과 윤리, 보안과 같은 기술의 잠재적 위험이나 장애물을 고려하고 있는 것으로 파악됐다.

―컨설팅 관점에서 보자면.

▷생성형 AI를 어떻게 활용하느냐에 따라 기업 경쟁력은 달라진다. LLM 등 AI 공급자 입장에서 보자면 기술력과 함께 AI 도입에 맞춰 기업 고객에 얼마나 최적화된 리스크 관리·대응을 해줄 수 있느냐가 중요할 것이다. 가령 챗GPT가 처음 나왔을 때는 다들 압도적인 성능에 놀랐지만, 점차 기업들은 케이스별로 어떻게 도입할 것인가와 어떻게 활용해야 리스크 관리 측면에서 최적화할 수 있을지 등을 들여다보고 있다. 수요자인 기업이 LLM을 채택하는 과정을 보면 무조건 자국 모델만 써야 하는 분위기는 없다. 또 무작정 비용이 저렴하다고 쓰는 것도 아니다. 성능과 매니지먼트가 균형 있게 갖춰져 있어야만 기업 고객들 시선을 사로잡을 수 있다.

―기업 간 AI 동맹이 활발하다.

▷전략적으로 의미 있는 행보라고 본다. 생성형 AI가 어느 한 기업만이 독자적으로 전체 시장을 장악하기 힘든 구조다. 엄청난 비용을 지속적으로 투입해 나가면서 모든 업종·분야를 아우를 수 있는 모델 라인업을 전부 갖추기란 현실적으로 어렵다. 그렇기에 전문화된 기술력을 갖고 있는 기업들끼리 서로 힘을 합친다면 저마다 특화된 모델을 만들어 승부를 볼 수 있다. 거대언어모델만 있는 게 아니다. 한 모델로 대변될 수 없는 다양한 영역이 존재하기에 후발 주자들도 충분히 승산이 있다. 각 분야마다 최적의 파트너들과 합종연횡을 하고, 특화된 데이터를 얹어서 기업별로 맞춤화된 AI를 쓸 수 있도록 하는 것이 중요해졌다.

―향후 시장을 내다보자면.

▷실제 기업명을 노출할 수는 없지만 업종을 불문하고 우리가 익히 잘 알고 있는 많은 글로벌 기업이 생성형 AI 도입을 적극 고려하고 있거나 이미 물밑 준비 작업에 한창이다. 이러한 기조는 앞으로 더욱 뚜렷해질 수밖에 없는데, 그만큼 컨설팅 수요도 크게 늘 것으로 보인다. 기업의 AI 도입은 하나의 솔루션으로 단순히 새로운 기술을 사용한다는 차원을 넘어 기업의 업무 방식과 사업 구조를 변화시키는 디지털 전환의 핵심 축이 되기 때문이다. 따라서 AI로 기업의 생산성을 향상시키고자 하는 경우 기술적인 접근을 넘어 기업이 사용했을 때 수반되는 여러 가지 리스크까지 사전에 대비할 수 있는 전략을 수립해야 할 것이다.

[고민서 기자]