메타 손잡은 퀄컴, 스냅드래곤 기기에도 `라마3` 탑재

퀄컴 제공.

메타가 최신 LLM(대규모언어모델) '라마3' 기반의 AI(인공지능) 챗봇 '메타 AI'를 자사 SNS(소셜네트워크서비스)에 탑재한다고 밝힌 가운데 퀄컴이 메타와의 협업을 선언했다.

퀄컴은 메타와 스마트폰, PC, VR·AR 헤드셋, 차량 등에서 메타의 LLM 라마3 실행을 최적화하기 위한 협업을 한다고 19일 밝혔다.

메타가 공개한 라마3는 80억개(8B)와 700억개(70B) 매개변수 두개의 모델로, 현재 동급의 오픈소스 모델 중 최고 수준의 성능을 나타냈다. 메타는 매개변수 700억개 모델이 AI의 문제 해결 능력을 수학, 물리학, 역사 등으로 평가하는 MMLU(다중작업언어이해)에서 79.5점을 얻어 구글의 제미나이 프로 1.0(71.8점)을 능가했다고 설명했다.

두르가 말라디 퀄컴 수석 부사장 겸 총괄 매니저는 "메타 라마3를 통한 메타의 개방형 접근 방식을 축하한다"며 "온디바이스 AI 분야의 리더십과 엣지의 다양한 디바이스에 걸친 광범위한 범위가 결합돼 전 세계적으로 라마 에코시스템의 혜택을 확대하고 고객, 파트너, 개발자가 차세대 획기적인 AI 경험을 창출할 수 있도록 지원할 수 있다"고 말했다.

이번 협력은 곧 출시될 '스냅드래곤' 플랫폼 기반 플래그십 디바이스에서 라마3에 접근할 수 있도록 지원해 생성형 AI 기능을 대중화하는 것을 목표로 한다. 퀄컴 측은 "다양한 기기에서 라마3를 실행할 수 있게 되면 뛰어난 응답성, 강화된 개인정보 보호, 향상된 안정성, 사용자에게 개인화된 경험을 제공하는 등 상당한 이점이 있다"고 내다봤다.

퀄컴은 약 100개의 최적화된 AI 모델을 제공하는 퀄컴 AI 허브를 통해 개발자에게 스냅드래곤 플랫폼에서 라마3를 실행할 수 있는 리소스와 도구를 제공할 예정이다. 김나인기자 silkni@dt.co.kr