'온디바이스AI' 노린 업스테이지, 인텔 고성능 프로세서에 '솔라' 탑재

'인텔 코어 울트라 프로세서'에 솔라 미니·라이트업 등 적용…컴퓨텍스 등서 시연

(지디넷코리아=장유미 기자)업스테이지가 개발한 거대언어모델(LLM) 솔라가 인텔 프로세서에 최적화된다.

업스테이지는 솔라의 경량화 버전인 '솔라 미니(Solar Mini)'와 솔라 기반 LLM 문서 작업용 앱 '라이트업(writeUp)'을 '인텔 코어 울트라(Ultra) 프로세서'에 최적화한다고 7일 밝혔다.

이는 최근 화두로 떠오른 '온디바이스 AI'에 대응하기 위해서다. '온디바이스 AI'는 외부 외부 클라우드 연결 없이 기기 자체에서 AI 처리가 가능한 것을 뜻한다. 이에 맞춰 단말에 내장된 칩에 직접 LLM을 설치하는 AI PC는 높은 접근성, 생산성 뿐만 아니라 정보 유출을 원천 차단해 보안성을 극대화하는 분위기다.

(사진=업스테이지)

업스테이지와 인텔은 앞으로 인텔의 해당 프로세서를 장착한 윈도우 PC 제품군에서 솔라를 온디바이스 AI로 활용할 수 있도록 할 예정이다.

솔라는 업스테이지가 개발한 자체 사전학습 LLM이다. 솔라 미니는 매개변수(파라미터)를 경량화한 모델로, 작지만 강력한 성능으로 다양한 산업, 기업별 맞춤형 파인튜닝(미세조정)뿐만 아니라 온디바이스 AI 등 구축형에 특화됐다. 한국어와 영어, 일본어 등 다양한 언어를 지원한다.

라이트업은 솔라 기반의 문서 작업용 앱이다. 설치형으로 폐쇄망, 오프라인 환경에서도 동작해 솔라 LLM을 활용한 다양한 문서 작업이 가능하다. 문장 생성, 요약뿐만 아니라 문맥에 맞는 문장의 톤까지 다양하게 조절할 수 있는 점이 특징으로, 실시간 다국어 번역 기능까지 지원한다.

또 업스테이지는 이달 4일부터 7일까지 대만 타이베이에서 개최되는 아시아 최대 IT 박람회 '컴퓨텍스(COMPUTEX) 2024', 5일 서울에서 개최된 '인텔 AI 서밋(Intel AI Summit Seoul)'을 통해 인텔 칩셋에서 구동되는 솔라를 시연했다.

김성훈 업스테이지 대표는 "솔라 LLM을 인텔의 고성능 프로세서에 탑재하게 돼 매우 기쁘다"며 "높은 생산성과 보안성을 갖춘 온디바이스 AI에 특화된 솔라를 통해 인텔 기반의 윈도우 PC 사용자들은 생성형 AI 기술을 더욱 쉽고 빠르게 활용할 수 있을 것"이라고 밝혔다.

장유미 기자(sweet@zdnet.co.kr)