지아드 아즈가 퀄컴 부사장 “생성형 AI, 클라우드보다 디바이스가 유리”

미국 마우이에서 열린 '스냅드래곤 서밋 2023'에서 만난 지아드 아즈가 퀄컴테크놀로지 제품관리 수석부사장.

“생성형 인공지능(AI) 서비스를 클라우드 기반으로 제공하면 그래픽처리장치(GPU)에서 실행되기 때문에 디바이스에서 지원하는 게 더 유리하다.”

지아드 아즈가 퀄컴테크놀로지 제품관리 수석부사장은 '스냅드래곤 서밋 2023' 인터뷰를 통해 “GPU는 많은 전력을 소모할 수밖에 없어 비용이 많이 든다”면서 이같이 밝혔다. 온디바이스 AI 기반 스마트폰 등 디바이스에서 생성형 AI 서비스를 제공하는 게 비용·접근성 측면에서 훨씬 유리하다는 판단이다. 전력뿐만 아니라 AI 서비스 구동에 적합한 GPU 가격도 수백억~수천억원 수준이다.

또 시간이 지날수록 쌓이는 데이터에 기반한 개인화 서비스도 디바이스가 클라우드보다 유리하다고 강조했다. 클라우드 기반 생성형 AI 서비스는 범용 서비스인 반면, 디바이스에 쌓이는 데이터는 특정 개인의 것으로 개인화 서비스 고도화에 강점이 될 수 있다는 의미다.

퀄컴은 언제 어디서나 사용할 수 있는 생성형 AI 제공을 목표로 신형 애플리케이션 프로세서(AP) 스냅드래곤 8 3세대에 인프라를 탑재했다. 네트워크 연결 없이도 생성형 AI를 이용할 수 있도록 AP 단에 거대언어모델(LLM) 등을 구현, 레이턴시까지 최소화한 서비스 기반을 제공한다. AP는 모바일 기기에서 소프트웨어와 하드웨어를 작동시키는 '두뇌'와 같은 역할을 하는 반도체다.

아즈가 수석부사장은 “디바이스에서 생성형 AI 서비스를 이용할 수 있다면 보다 많은 사람들이 사용하기 시작하고 더 많은 사용 사례가 들어와 서비스를 고도화할 수 있다”며 “거의 무료로 서비스를 제공해도 될 수준”이라고 말했다. 데이터 학습을 통한 추론이 생성형 AI 서비스 제공의 선결 과제인 만큼 이용자들이 학습 데이터를 제공, 일정 부분 무료 서비스가 가능할 것이라는 관측이다.

퀄컴은 온디바이스 AI를 실현할 수 있는 스냅드래곤 8 3세대를 기반으로 생성형 AI 서비스를 제공하면 비용 절감 효과가 확실하고 이용자 접근성도 강화될 것이라고 보고 있다. 개인 PC나 스마트TV 기반 생성형 AI 서비스는 한 자리에서 지속 이용해야 하는 반면, 스마트폰·태블릿PC 등에서 서비스 하면 이동 중에도 편리하게 사용할 수 있다. 인터넷 연결이 어려운 환경에서도 이용이 가능하다.

'스냅드래곤 서밋 2023'에서 공개된 스냅드래곤 8 3세대 칩

아즈가 부사장은 생성형 AI가 질의응답뿐만 아니라 사진과 동영상 등 콘텐츠를 만드는 데도 도움이 될 것으로 예상했다. 그는 “여러 장의 사진을 찍으면 사진을 바탕으로 동영상을 생성할 수 있을 것”이라며 “부동산 중개인이 집 사진을 20장 정도 찍었다고 가정하면 이를 동영상으로 만들어 활용하게 될 것”이라고 설명했다.

텍스트를 이미지로, 이미지를 비디오로, 텍스트를 3D 이미지로, 또는 그 반대로 이미지를 텍스트로 변환할 수 있는 시대가 도래할 것이라는 의미다. 퀄컴은 그러한 사용자환경(UI)과 사용자경험(UX) 제공을 위한 인프라를 지속 제공하고 고도화할 계획이다.

모바일 AP 스냅드래곤 8 3세대뿐만 아니라 PC용 컴퓨팅 프로세서 스냅드래곤 X 엘리트 플랫폼을 통해 PC에서도 온디바이스 AI를 지원한다. 네트워크 연결 없이도 데이터 수집·처리를 지원한다.

아즈가 부사장은 “스냅드래곤 X 엘리트나 스냅드래곤 8 3세대 모두 현재 다른 어떤 반도체보다 훨씬 더 많은 온디바이스 AI 기능을 갖추고 있다”며 “초당 토큰 수와 같은 지표에서 경쟁사 대비 분명히 앞서고 있고 하드웨어·소프트웨어·로직 측면에서 지속적인 연구로 차별화를 달성했다”고 강조했다.

이어 “퀄컴은 모든 사람이 온디바이스 AI를 활용할 수 있도록 만들어 진정한 기술 민주화를 이뤄낼 것”이라며 “이제 시작하는 단계로 매일 새로운 모델과 사용 사례가 나오고 있다”고 덧붙였다.

주요 제조 고객사의 스냅드래곤 8 3세대와 스냅드래곤 X 엘리트에 탑재된 생성형 AI 기능에 대한 기대감도 전했다. 아즈가 부사장은 “제조사가 온디바이스 AI 기반 다양한 생성형 AI 활용 방안을 제시하고 보다 개인화된 AI 서비스를 활용할 수 있게 될 것”이라고 전망했다. 샤오미 14 시리즈가 시작이다.

한편 생성형 AI 기능 탑재에 따른 신형 스마트폰 가격 인상 가능성은 예단할 수 없다고 단언했다. 차세대 스마트폰에는 스냅드래곤 8 3세대뿐 아니라 디스플레이, 부품 등 가격을 결정하는 다양한 구성 요소가 있어 퀄컴이 가격 인상 여부를 예상하기 어렵다는 이유다.

마우이(미국)=

박종진 기자 truth@etnews.com