IBM, 왓슨x에서 '라마 3.1' '미스트랄 라지2' 등 오픈소스 모델 지원

(IBM 제공)

(서울=뉴스1) 조재현 기자 = IBM은 최근 메타가 발표한 '라마3.1'과 미스트랄 AI에서 발표한 '미스트랄 라지 2' 등 최신 오픈소스 거대언어모델(LLM)을 왓슨x.ai에서 제공한다고 발표했다.

1일 IBM에 따르면 왓슨x 사용 기업들은 IBM 그래니트, 라마 3.1, 미스트랄 라지 2 등의 오픈소스 AI 모델을 자사의 용도와 필요에 따라 자유롭게 선택하고 맞춤화해 사용할 수 있다.

라마 3.1은 각각 80억 개, 700억 개, 4050억 개의 매개변수를 가진 사전 학습된 오픈소스 생성형 AI 모델들로 구성됐다.

가장 크고 강력한 오픈소스 언어 모델로 평가받는 라마 3.1-405B 모델은 한 번에 처리할 수 있는 문맥의 길이가 토큰 8192개에서 12만 8000개로 16배 늘어났다.

오픈AI의 GPT-4o 등 시장의 독점적 모델들과 비교할 때 독해력, 코드생성, 학부 수준의 지식 분야에서 뒤지지 않는 성능을 보여주는 것으로 알려져 있다.

1230억 개의 매개변수를 가진 미스트랄 라지 2는 코딩과 수학 부문에서 뛰어난 성능을 발휘한다. 80가지가 넘는 코딩 언어를 지원하며 GPT-4o, 앤트로픽의 클로드 3 오푸스, 라마 3.1-405B와 같은 최첨단 모델과 동등한 수준의 성능을 제공한다.

IBM 왓슨x는 사내 서버, 퍼블릭, 프라이빗, 하이브리드 클라우드 등 기업이 선호하는 인프라 환경에서 모델을 활용할 수 있는 유연성을 제공한다. 아울러 AI를 활용한 비즈니스 애플리케이션 개발과 데이터 소스 관리, 미세 조정 등을 하나의 플랫폼에서 가능하도록 돕는다.

cho84@news1.kr