말라디 퀄컴 수석부사장 “온디바이스AI, 투자·전력 부담 해결의 열쇠”

두르가 말라디 퀄컴 기술기획&엣지솔루션부문 본부장 수석부사장

퀄컴이 인공지능(AI) 시대 투자비와 전력 사용 부담 해결책으로 '온디바이스 AI'를 제시했다. 데이터센터·클라우드가 전담했던 AI 추론·연산을 스마트폰과 PC 등 개인용 기기에서 일부만 담당해도 큰 효과를 볼 수 있다는 주장이다.

두르가 말라디 퀄컴 기술기획&엣지솔루션부문 본부장 수석부사장은 최근 방한, “클라우드만으로 AI 추론을 구현하면 막대한 투자비는 물론, 전력 사용량 측면에서도 부담이 크다”며 이같이 밝혔다.

그는 “클라우드는 온디바이스 AI를 사용할 때보다 AI 추론에 10배 많은 비용이 든다”며 “향후 텍스트·이미지·음성·비디오 등을 동시에 처리하는 멀티모달 시대에서는 클라우드 단독으로 AI 구현이 더 어려워질 것”고 진단했다.

또 에너지 측면에서도 클라우드에만 의존할 경우 2030년 기준 데이터센터 전기 사용량이 전체 사용량의 3.5%에 달하는 문제에 직면하게 된다고 그는 부연했다.

퀄컴은 온디바이스 AI 수요가 확산될 것으로 판단, 선제적으로 관련 제품군을 선보였다. '스냅드래곤 8·7s'(모바일) 제품군과 '스냅드래곤 X 엘리트·플러스'(PC)가 대표적이다.

말라디 수석부사장은 “스냅드래곤 8 3세대 성능은 1999년 슈퍼컴퓨터와 맞먹는 수준인데, 사용 전력은 LED 전등 하나보다도 적다”며 “다양한 AI 모델을 스마트폰·PC에서 구동할 수 있게 되면서 온디바이스AI가 클라우드와 상호 보완적인 관계로 기능하게 됐다”고 강조했다.

두르가 말라디 퀄컴 기술기획&엣지솔루션부문 본부장 수석부사장

퀄컴은 생성형 AI 확산에 대비 제품 포트폴리오를 다변화하고 있다. 특히 시장 요구에 맞춰 개인정보보호와 개인화 서비스가 가능한 온디바이스AI 스마트폰과 PC 시장을 집중 공략 중이다.

올해는 삼성전자 '갤럭시S24' 시리즈에 적용한 '스냅드래곤 8' 시리즈에 이어 '스냅드래곤 7s' 시리즈로 온디바이스AI 지원 제품군을 확대했다. 이달 샤오미를 시작으로 삼성전자·리얼미·샤프 등이 해당 제품을 탑재한 스마트폰을 내놓는다.

PC 시장 공략에도 적극적이다. AI가 접목으로 PC 교체 수요가 커졌기 때문이다. 지난주 보급형 AI PC를 정조준한 '스냅드래곤 X 플러스 8코어'를 내놨다. AI 구동의 핵심인 신경망처리장치(NPU) 성능은 상위 모델과 동일하게 구성했다. 최저 90만원대 AI PC 출시가 가능해져 온디바이스 AI PC 시장 활성화에 기여할 것으로 기대했다.

말리디 수석부사장은 “2007년 등장한 스마트폰이 '터치 스크린'을 사용자환경(UI)으로 자리매김할 수 있도록 만들었듯 AI는 이를 '음성'으로 변화시켜 나갈 것”이라며 “최종적으로 완전히 새로운 형태의 단말이 탄생할 것으로 예상되며 이를 고려해 연구개발을 진행해 나갈 것”이라고 말했다.

박진형 기자 jin@etnews.com