퀄컴, 스마트폰에서 라마2 AI 구현 위해 메타와 협력

2024년부터 스마트폰·PC에서 라마2 기반 AI 지원

(지디넷코리아=권봉석 기자)퀄컴은 19일 대형언어모델 라마2(LLaMA 2)를 스마트폰과 PC 등에서 구현하기 위해 메타와 협업한다고 밝혔다.

라마2는 오픈소스 대형언어모델로 클라우드나 슈퍼컴퓨터 없이 PC나 스마트폰 등에서 작동 가능하도록 경량화됐다.

(사진=메타)

퀄컴은 라마2를 최적화해 퀄컴 AI 엔진이 내장된 스냅드래곤 기반 PC나 스마트폰에서 구동할 수 있도록 할 예정이다. 개발자들은 이를 통해 클라우드 접속이 없는 비행기 모드 등에서 개인화된 경험을 제공할 수 있다.

두르가 말라디 퀄컴 기술, 기획 및 엣지 솔루션 부문 본부장은 "퀄컴은 생성형 AI를 온디바이스에 적용해 모든 규모의 개발자들을 위한 혁신을 추진하고 진입 장벽을 완화하는 데 전념하고 있다"고 밝혔다.

이어 "생성형 AI의 효과적인 대중화를 위해서는 클라우드뿐만 아니라 스마트폰, 노트북, 차량, IoT 등과 같은 엣지 디바이스에서도 AI를 작동할 수 있어야 한다"고 말했다.

퀄컴은 개발자들이 AI 스택을 활용해 라마2 기반 AI를 구현하도록 지원할 예정이다. (사진=지디넷코리아)

퀄컴은 오는 2024년부터 스냅드래곤 기반 기기에서 라마2 기반 AI 구현이 가능하도록 지원할 예정이다. 개발자들은 퀄컴 AI 스택을 활용해 온디바이스 AI 응용프로그램을 최적화할 수 있다.

권봉석 기자(bskwon@zdnet.co.kr)