미스트랄AI, 온디바이스 AI 모델 '미스트랄 3B', '미스트랄 8B' 출시
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
프랑스 인공지능(AI) 스타트업 미스트랄AI가 노트북, 핸드폰 등에서 인터넷 연결 없이 구동할 수 있는 온디바이스 AI용 소형 AI 모델을 출시했다.
AI 기업 관계자는 "국내 기업도 온디바이스AI 등 활용가치가 높고 거대언어모델(LLM)보다 비용효율적인 소형 AI 모델 출시에 집중하고 있다"며 "미스트랄AI의 온디바이스AI 모델 출시로 소형 AI 모델 경쟁은 더욱 치열해질 전망"이라고 말했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
프랑스 인공지능(AI) 스타트업 미스트랄AI가 노트북, 핸드폰 등에서 인터넷 연결 없이 구동할 수 있는 온디바이스 AI용 소형 AI 모델을 출시했다.
미스트랄AI는 16일(현지시간) 자사 블로그를 통해 새로운 온디바이스 AI 모델 '미스트랄 3B'와 '미스트랄 8B'을 공개했다.
두 모델은 50페이지 분량의 문서를 이해할 수 있는 수준인 12만8000개의 입력 토큰 처리 능력을 가졌다.
또 '젬마2 2B', '라마 3.2 3B·8B' 등 구글과 메타의 비슷한 규모의 AI 모델보다 벤치마크 성능에서 대체로 뛰어났다고 미스트랄AI는 설명했다.
미스트랄AI가 온디바이스 AI 모델을 출시한 것은 고객 요구가 높아지기 때문이다.
미스트랄AI는 “고객들은 온디바이스 번역, 인터넷이 필요 없는 스마트 비서, 로컬 분석 및 자율 로봇 공학과 같은 중요한 애플리케이션에 대해 개인 정보 보호를 최우선으로 하는 현지 추론을 점점 더 요구하고 있는 추세”라고 밝혔다.
글로벌 빅테크 기업은 온디바이스AI에 적용할 수 있는 매개변수 100억개(10B) 미만의 소형 AI 모델을 출시하는 추세다. 구글 '젬마2 9B', 마이크로소프트(MS) '파이 3.5 미니', 메타 '라마 3.2 3B' 등이다.
AI 기업 관계자는 “국내 기업도 온디바이스AI 등 활용가치가 높고 거대언어모델(LLM)보다 비용효율적인 소형 AI 모델 출시에 집중하고 있다”며 “미스트랄AI의 온디바이스AI 모델 출시로 소형 AI 모델 경쟁은 더욱 치열해질 전망”이라고 말했다.
현대인 기자 modernman@etnews.com
Copyright © 전자신문. 무단전재 및 재배포 금지.
- SK하이닉스 “이종 결합 패키징이 향후 10년 주도”
- 尹 독대 앞둔 한동훈, 김건희 문제 강하게 제기…“라인 정리·활동 중단·의혹 규명 협조해야”
- [단독]亞 13개국 공동망 연동…송금·지급결제 문턱 낮춘다
- “아무리 그래도 그렇지”… 우크라 모병 광고에 '핀업걸' 등장
- “65만원 내면 줄 안 서도 돼요”… 디즈니 '번개패스' 출시
- [2024 국감]여야 대왕고래 공수 대결...석유공사 대응 놓고는 한목소리 비판
- [2024 국감]與野 연구현장 제도·처우 개선 '한 목소리'…GIST 총장 비판도 눈길
- 포스코 찾은 최상목 “73조 투자 적극 지원…녹색국채 발행 검토”
- 반성 없는 日 이시바 총리, 야스쿠니 신사에 공물 봉납… 정부 “깊은 실망과 유감”
- KT 노사, 인력 구조조정 합의…전출·퇴직조건 상향