IBM, 왓슨x 플랫폼에서 오픈소스 모델 ‘라마 3.1’, ‘미스트랄 라지2’ 지원

매개변수 80억개 소형 모델부터 대규모까지 제공

IBM 왓슨x 이미지 [사진 = IBM]

IBM이 자사 인공지능(AI) 플랫폼 ‘왓슨x’에서 최신 오픈소스 AI 모델인 ‘라마 3.1’과 ‘미스트랄 라지2’를 제공한다고 1일 밝혔다.

라마 3.1과 미스트랄 라지 2는 각각 메타와 미스트랄 AI에서 최근 발표한 오픈소스 거대언어모델(LLM)이다. 최신 오픈소스 모델이 추가되면서 왓슨x를 사용하는 기업들은 IBM의 자체 오픈소스 모델인 그래니트를 포함해 다양한 오픈소스 모델을 필요에 따라 선택해 사용할 수 있게 됐다.

왓슨x에서 지원되는 라마 3.1은 80억 개, 700억 개, 4050억 개의 매개변수를 가진 사전 학습된 오픈소스 생성형 AI 모델로 구성됐다.

현시점에서 가장 크고 강력한 오픈소스 언어 모델로 평가받고 있는 4050억개 매개변수의 라마 3.1 모델은 한 번에 처리할 수 있는 문맥의 길이가 토큰 8192개에서 12만8000개로 16배 늘어났으며, 이는 약 8만5000개 영어 단어에 해당한다.

1230억 개의 매개변수를 가진 미스트랄 라지 2는 코딩과 수학 부문에서 뛰어난 성능을 발휘하며 80 가지가 넘는 코딩 언어를 지원한다. 미스트랄 라지 2 모델의 경우 상업적 목적으로 활용하려면 미스트랄 AI에 ‘미스트랄 커머셜 라이선스’을 요청해야 하지만, IBM 왓슨x에서는 상업적 목적으로도 자유롭게 사용할 수 있다.

왓슨x는 기업들이 용도와 목적, 비용 등 각자의 조건에 따라 가장 적합한 AI 모델을 선택하고 니즈에 따라 최적화해 사용할 수 있도록 지원하는 플랫폼이다.

IBM 왓슨x는 사내 서버, 퍼블릭, 프라이빗, 하이브리드 클라우드 등 기업이 선호하는 인프라 환경에서 모델을 활용할 수 있는 유연성을 제공한다. 또한 AI 모델 활용뿐만 아니라 데이터 소스 관리, 파인 튜닝 등을 모두 한 플랫폼에서 가능하도록 했다.

IBM은 “기업에서 AI 모델을 선택할 때는 고려해야 하는 다양한 요소가 존재하기 때문에 성능이 좋은 범용 모델을 선택하는 것이 정답이 아닐 수 있다”라며 “기업의 용도에 맞는 이상적인 모델을 선택하는 것이 필요하다”라고 말했다.