기업 맞춤 개방형 AI 모델 플랫폼 '레드햇 엔터프라이즈 리눅스 AI'

[솔루션 가이드] 레드햇 엔터프라이즈 리눅스AI, 효율적인 개방형 모델로 하이브리드 클라우드 전반에서 AI 혁신 확장

개방형 AI 모델의 이점

기업들은 AI 모델 개발 속도를 높이고, 운영에 소요되는 비용을 절감하는 것이 중요한 과제가 되고 있다. 하이브리드 클라우드 기반의 AI 플랫폼은 기존 인프라를 활용하면서도 퍼블릭 클라우드의 확장성을 누릴 수 있어 시장에서 경쟁력을 갖추는 데 기여한다. 또한, 개방형 모델은 상호 운용성을 제공하여 벤더 종속을 줄이고, 최신 AI 기술 및 오픈소스 도구들을 쉽게 통합할 수 있어 급변하는 시장 트렌드에 빠르게 대응할 수 있다.

효율적인 개방형 AI 모델 플랫폼은 현재의 하이브리드 클라우드 환경에서 필수적이다. 이러한 플랫폼은 기업이 온프레미스와 클라우드 환경을 유연하게 연결하여 AI 모델을 개발, 배포, 관리하는 데 도움을 준다. 이는 각기 다른 인프라와 환경에서 통합된 방식으로 AI를 운영할 수 있게 해주며, 데이터 레지던시, 보안, 규제 요구 사항을 준수할 수 있게 한다. 특히 금융, 헬스케어, 제조와 같은 산업에서 이러한 유연성은 필수적이다.

많은 기업이 생성형 AI를 활용하고 있으나 LLM을 조달 및 훈련, 미세 조정하는 데에는 막대한 비용이 든다. 어떤 애플리케이션에 어떤 모델을 선택하든, 기업의 고유 데이터 및 프로세스에 맞게 조정하는 작업이 요구된다. 따라서 효율성과 민첩성이 실제 프로덕션 환경에서 AI의 핵심이다. 향후 10년 동안 더 작고, 효율적이며, 목적에 맞게 구축된 AI 모델들이 클라우드 네이티브 애플리케이션과 함께 엔터프라이즈 IT 스택의 상당 부분을 차지할 것으로 예상된다.

그러나 이를 위해서는 하이브리드 클라우드 전반에서 실행될 수 있도록 생성형 AI의 접근성과 가용성을 높일 수 있는 개방형 모델은 기업 생성형 AI 활용 효과를 높일 수 있다.

RHEL AI, 기업 밎춤형 오픈소스 생성형 AI

글로벌 오픈소스 솔루션 기업 레드햇이 최근 정식 출시한 레드햇 엔터프라이즈 리눅스 AI(RHEL AI) 는 사용자가 엔터프라이즈 애플리케이션 개발을 돕기 위해, 생성형 AI 모델을 원활하게 개발·테스트·배포할 수 있도록 지원하는 파운데이션 모델 플랫폼이다.

이 플랫폼은 오픈소스 라이센스를 기반으로 한 그래니트 LLM(Granite LLM, 대규모 언어 모델) 제품군과 LAB(Large-scale Alignment for chatbot, 챗봇을 위한 대규모 정렬) 방법론에 기반한 인스트럭트랩(InstructLab) 모델 정렬 도구를 결합한 솔루션이다. 전체 솔루션은 하이브리드 클라우드의 개별 서버 배포를 위해 최적화된 RHEL 이미지로 패키징 되어 있다.

RHEL AI는 하이브리드 클라우드 전반에서 CIO를 포함한 기업의 IT 조직이 생성형 AI의 접근성을 높이면서, 효율적으로 활용할 수 있도록 지원한다. 엔터프라이즈급 오픈소스 라이센스를 보유한 그래니트 모델을 통해 생성형 AI 혁신을 강화하고, 다양한 생성형 AI 사용 사례에 맞게 조정한다.

인스트럭트랩 도구를 통해 생성형 AI 모델을 비즈니스의 요구사항에 맞게 간소화하여, 조직 내 도메인 전문가와 개발자가 광범위한 데이터 과학 기술 없이도 고유한 기술과 지식을 제공할 수 있다. 관련 데이터가 어디에 있든, 프로덕션 서버용 모델을 조정하고 배포하는 데 필요한 모든 도구를 제공해 하이브리드 클라우드 전반에서 생성형 AI를 학습하고 배포할 수 있다.

또한 레드햇 오픈시프트 AI(Red Hat OpenShift AI)로 손쉽게 전환할 수 있는 온램프(on-ramp)를 제공하며, 동일한 도구와 개념으로 이러한 모델을 대규모로 훈련, 조정 및 서비스할 수 있다.

RHEL AI에는 레드햇 구독 서비스가 제공하는 신뢰할 수 있는 엔터프라이즈 제품 배포, 연중무휴 프로덕션 지원, 확장된 모델 수명 주기 지원 및 오픈소스 보증의 법적 보호 등의 혜택이 포함된다.

하이브리드 클라우드 전반으로 확장

RHEL AI는 레드햇 하이브리드 클라우드 포트폴리오의 확장으로 온프레미스 데이터센터부터 에지 환경, 퍼블릭 클라우드에 이르기까지 거의 모든 엔터프라이즈 환경을 포괄한다. 즉, 레드햇과 레드햇의 OEM 파트너가 직접 RHEL AI를 제공하고 AWS, 구글 클라우드, IBM 클라우드, 마이크로소프트 애저를 비롯한 글로벌 클라우드 제공업체에서 이를 실행할 수 있다. 따라서 개발자와 IT 조직은 하이퍼스케일러 컴퓨팅 리소스의 강력한 성능을 사용해 RHEL AI를 통한 혁신적인 AI 개념을 구축할 수 있다.

RHEL AI는 현재 레드햇 고객 포털을 통해 온프레미스에서 실행하거나 “BYOS(Bring Your Own Subscription)” 오퍼링으로 제공되어 AWS 및 IBM 클라우드에 업로드해 사용할 수 있다. 애저(Azure) 및 구글 클라우드에서의 BYOS 오퍼링은 2024년 4분기에 제공될 예정이며, IBM 클라우드에서도 올해 말에 서비스 형태로 RHEL AI를 사용할 수 있을 것이다.

엔터프라이즈 AI의 이점은 AI 모델 환경의 엄청난 규모와 사내 모델 선택, 조정 및 유지 관리에 내재된 복잡성에서 비롯된다. RHEL AI는 더 작고, 목적에 맞게 구축되고, 더 광범위하게 액세스할 수 있는 모델은 훨씬 더 광범위한 사용자와 조직에서 AI 전략을 더 쉽게 달성할 수 있게 해준다.

[알림] 전자신문인터넷과GTT KOREA가 오는 9월 27일(금) 서울 양재동 엘타워 그레이스홀(양재역)에서 공동으로 주최하는 “NABS(Next AI & Bigdata Summit) 2024”에서는 “비즈니스에 성공하는 AI & Big Data 혁신 전략”을 주제로 글로벌 AI와 빅데이터 산업을 이끌고 있는 글로벌 리더 기업들이 급변하는 기술과 비즈니스 환경에서 생산성과 효율성 및 비용 절감까지 조직과 비즈니스를 혁신할 수 있는 맞춤형 차세대 AI와 빅데이터 전략을 제시합니다.

유은정 기자 judy6956@etnews.com