보카르 MS 부사장 "아폴로 계획처럼 AI는 우리에게 큰 기회"

SKT 개최 'AI서밋 2024'서 강연..."속도·규모·에너지 등 3개 문제 해결해야"

(지디넷코리아=방은주 기자)"아폴로 계획(미국의 유인 우주비행 탐사) 이후 의학, 재료, 컴퓨팅 분야에서 획기적인 발전을 가져온 것 처럼 AI는 새로운 기술의 지평을 열 것입니다."

라니 보카르(Rani Borkar) 미국 마이크로소프트 기업부문(CVP) 부사장은 4일 서울 강남구 코엑스에서 열린 'SK AI 서밋 2024'에서 이 같이 밝혔다. MS의 클라우드 컴퓨팅 사업을 이끌고 있는 보카르 부사장은 애저(Azure) 하드웨어 시스템& 인프라 부문을 맡고 있다. MS에 합류하기전 IBM 등에 있었다. 특히 인텔에서 오래 근무하며 기업 부사장으로 일했다. 인도 뭄바이 대학에서 물리학으로 학사와 석사 학위를 받았는데 미국 오리건대학원에서 다시 전기전자 석사 학위를 땄다. 스탠포드대학이 운영하는 경영자리더십 프로그램도 이수했다.

이날 'AI의 미래를 향한 비전(The Vision for the Future of AI)'을 주제로 강연한 그는미국의 아폴로 계획(1961년부터 1972년까지 미국항공우주국이 추진한 일련의 유인 우주 비행 탐사 계획)이 담대한 도전이자 목표였다면서 AI 역시 아폴로 계획과 유사하다고 짚었다.

라니 보카르(Rani Borkar) 미국 마이크로소프트 기업부문(CVP) 부사장이 4일 발표를 하고 있다.

사람을 달에 보내는, 성공 확신이 없는 이 목표를 위해 40만명이 함께 일했고, 엔지니어들은 상상하고 발명했으며, 2만개의 기업과 대학이 위험을 무릎쓰고 목표를 향해 나아갔다고 소개한 그는 "1969년 7월 20일 5억명의 넘는 사람들이 TV를 지켜보고 있는 가운데 마침내 깃발을 꽂았다. 깃발을 꽂는 것에 그치지 않고 혁신을 촉발하고 새로운 산업을 탄생시켰다"면서 "아폴로 계획이  20세기 최고 기회인 것처럼 AI는 우리에게 일생일대의 기회"라고 강조했다.

현재 우리는 막대한 투자가 이뤄지는 시대에 살고 있으며, AI인프라가 새로운 지평을 열어줄 것이라고 진단한 보카르 부사장은 "우리가 어떻게 혁신하는 지가 새로운 기술 분야를 개척하는 원동력이 될 것"이라면서 "획기적인 인프라를 구축하기 위해 페이스북은 세계최고 AI 슈퍼컴퓨터를 구축하고 있다. 이 여정에는 새로운 모델과 시스템이 필요하다"고 설명했다. 

특히 그는 AI가 초래하는 새로운 세상이자 미지의 영역으로 들어서려면 세 가지 핵심 요건에 집중해야 한다면서 ▲속도(Speed) ▲스케일(Scale) ▲지속가능성(Sustainability)을 꼽았다.

아폴로 계획을 설명하며 AI의 중요성과 파급력을 설명하고 있는 보카르 부사장

"LLM 성능 6개월마다 두 배로 향상...무어 법칙보다 거의 4배 빨라" 

속도와 관련, 과거 컴퓨팅 발전은 2년마다 트랜지스터 밀도가 두 배로 증가하는 무어의 법칙에 기반을 뒀는데, 오늘날 우리는 AI성능에서 이러한 진보를 보고 있다면서 "LLM 성능이 6개월마다 두 배로 빨라지고 있다. 이는 무어의 법칙(반도체 성능이 18개월마다 두 배로 향상)보다 거의 4배나 빠른 속도"라고 짚었다. 이어 사람, 하드웨어, 시스템, 인프라가 AI모델이 필요로 하는 것을 따라가지 못하고 있다면서 "엔드 투 엔드 최적화와 혁신에 집중해야 따라잡을 수 있다. 스펙의 모든 수준에서 혁신 의존도가 이렇게 높았던 적이 없다"고 짚었다. 과거 메모리업계는 시스템 관점에서 10~15%의 성능 향상을 제공했는데, AI시대에는 시스템 전체로 개선 폭을 넓혀야 한다면서 차세대 AI모델을 구현하는데 핵심 역할을 하는 고대역폭 메모리(HBM)를 예로 들었다.

또 규모와 관련, 네트워크 대역폭 성능 개선 등을 언급하며  "AI가속기는 빠르게 성장하고 있고, AI모델이 발전함에 따라 더 높은 플롭스(FLOPS)와 더 나은 메모리로 AI 가속기 성능을 개선해야 한다. 혁신의 가파른 곡선을 고려할 때 위험을 감수하지 않고는 기업이 리더십을 확보하고 유지할 수 없다"고 말했다.

"AI로 2022~2026년 데이터센터 전력 수요 두 배 이상 증가...우리 앞에 놓인 것은 기회"

지속가능성과 관련해서는 에너지 소비와 공급을 언급했다.  AI때문에 2022년~2026년 세계 데이터센터 전력 수요가 두 배 이상 증가할 것이라는 전망이 있다면서 "이러한 에너지 소비의 두 동인은 컴퓨팅과 냉각이다. 이런 에너지 수요 증가에 직면해 MS는 지속가능하고 에너지 효율적인 솔루션을 제공하기 위해 최선을 다하고 있으며 오는 2030년까지 탄소중립을 달성하려 노력하고 있다"고 밝혔다. 이어 이런 노력은 MS 뿐 아니라 관련 업계 모두가 나서야 한다면서 "지속 가능한 전력을 사용하고 지속 가능성에 투자하는 것은 절대적으로 중요하다"고 말했다. 제품구상 단계부터 에너지 및 비용 효율이 높은 제품을 설계하고 성능을 혁신해야 하며 고효율 냉각 시스템을 개발해야 한다고 지적한 그는 "MS는 사이드킥 액체 침수 냉각 시스템을 설계, 이를 통해 기존 데이터센터 공간에 마야(Maya) AI가속기와 GPU를 사용할 수 있게 됐다"고 설명했다.

미래는 미지의 세계로 가는 여정이며, 우리는 끊임없는 혁신을 해야 한다면서 "우리 앞에 놓인 것은 기회다. 속도, 규모, 지속가능 솔루션의 한계를 시험하는 새로운 개척지에서 우리가 얼마나 멀리, 얼마나 빨리 갈 수 있늘 지는 우리에게 달려있다"고 강조했다. 이어 "아폴로 미션의 혁신가들은 미지의 세계에 맞서기 위해 함께 뭉쳤다. 기념비적인 시대의 시작을 알리는 개척의 문턱에 서 있었다"면서 "혁신과 탐험의 정신으로 우리 앞에 놓인 여정에 대해 낙관적이고 놀라움을 느끼며 오늘 이 곳을 나서길 바란다"며 강연을 마무리했다.

방은주 기자(ejbang@zdnet.co.kr)