[스마트클라우드쇼 2024] 두르가 말라디 퀄컴 수석 부사장 “에너지 절감·맞춤형 서비스 위해 온디바이스 AI 중요”

두르가 말라디(Durga Malladi) 퀄컴 수석부사장이 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024'에서 '모든 곳에서 지능형 컴퓨팅을 가능하게 만들다(Enabling Intelligent Computing Everywhere)'라는 주제로 기조강연을 하고 있다./조선비즈

“2030년이 되면 전 세계에서 인공지능(AI) 구동에 들어가는 에너지가 전체 전력 소비량의 3.5%에 달할 것입니다. 따라서 생성형(내장형) AI는 온디바이스(On-device)에서 사용할 수 있어야 하며, 이를 기반으로 클라우드에서도 같이 사용할 수 있어야 합니다.”

두르가 말라디(Durga Malladi) 퀄컴 수석부사장은 5일 서울 소공동 웨스틴조선호텔에서 열린 ‘스마트클라우드쇼 2024′에서 ‘모든 곳에서 지능형 컴퓨팅을 가능하게 만들다(Enabling Intelligent Computing Everywhere)’라는 주제로 기조강연에 나섰다.

말라디 수석부사장은 많은 사용자들이 개인화된 AI 경험을 추구하고 있기 때문에 온디바이스 AI가 중요하다고 했다. 예컨대 이용자가 스마트폰으로 최근 의사를 언제 만났는지 질문한다면 이는 민감한 개인정보이기 때문에 클라우드가 아닌 온디바이스에서 구동되는 게 좋다는 것이다. 그는 “맥락화된 정보가 추가로 필요하기 때문에 위치정보, 카메라 데이터 등이 추가로 사용될텐데 보안 측면에서 온디바이스는 강점이 있다”고 덧붙였다.

그러면서 “클라우드가 연결이 원활하게 되지 않는 상황이 있을 수도 있는데, 이용자가 지금 당장 무엇인가를 알아보고 싶거나 대규모 워크로드가 필요한 경우에도 온디바이스 AI가 강점이 있다”면서 “생성형 AI 구동으로 인한 부하를 엣지 또는 클라우드로 분산시킬 수 있어 이용자들이 누리고 싶어하는 서비스를 다 누릴 수 있도록 할 수도 있다”고 말했다.

그는 생성형 AI로 인한 경제적 이익은 연간 2조6000억~4조4000억달러에 달하며 이는 영국의 2021년 GDP(국내총생산)와 같다”며 “이에 따라 에너지 절감도 전 산업에 걸쳐서 노력해야 하는 상황이다”라고 전했다.

그러면서 “퀄컴은 고성능 컴퓨터를 에너지 효율적으로 개발해왔고 이에 자부심이 있다”며 “대규모 AI 모델들이 개발되고 있는데 온디바이스에서 에너지 효율적인 방법으로 구현을 잘 할 수 있도록 고민하고 있다”라고 했다. 또 “스마트폰, 노트북, 태블릿PC, XR(확장현실) 기기, 자율주행차 등 모든 기기에서 구동이 가능하도록 지속적으로 노력해왔다”며 “일단 특정 플랫폼에서 구동이 가능해지면 다른 플랫폼으로 확장이 수월해진다”고 덧붙였다.

말라디 부사장은 “온디바이스 AI에서 퀄컴은 선두 주자로서 책임있는 AI 구현을 위해 노력하고 있다”라며 “개인정보 보호는 물론이고 표준화된 기준을 마련해 안정성을 높이고자 하고 있다”고 했다. 또 “에너지 효율적인 방식으로 연산이 이뤄질 수 있도록 다양한 방법이나 기술들을 고안해내고 있다”고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -