래블업, 거대 언어 모델 서비스 첫 선보여

파이콘 한국2023에서
거대언어모델 서비스 공개

래블업의 서비스 장면 <사진=래블업>

래블업은 11~13일 개최된 ‘파이콘 한국 2023’에서 자사의 AI 연구개발 및 서비스 플랫폼 소프트웨어인 ‘백앤드.AI(Backend.AI)’로 거대 언어 모델을 직접 만들고 서비스하는 과정을 자동화하는 기능, 데모를 선보였다고 16일 밝혔다.

데모에서는 최근 메타에서 공개한 라마2(Llama2) 모델을 포함한 다양한 오픈소스 거대 언어 모델들을 Backend.AI의 자동화 시스템을 통해 한국어에 맞추어 미세조정했다. 래블업이 보유 중인 엔비디아 H100 클라우드 팜에서 라마2를 12시간 만에 파인 튜닝한 모델로 즉석에서 서비스로 만든 챗봇을 전용 UI를 통해 서비스했다.

Backend.AI는 ▲GPU 클러스터 활용도 극대화 ▲직관적인 사용자 경험 및 관리 ▲저비용 저지연 AI 모델 및 서비스 기술 ▲다양한 AI 반도체 지원 등을 바탕으로 다양한 AI 개발 및 서비스 분야를 선도하는 기능을 제공하고 있다. 래블업은 이번 거대 언어 모델 개발, 파인 튜닝 및 서비스 자동화 기능 공개를 통해 다양한 업무 자동화 및 연구, 프로그래밍 코드 개발 등의 본격적인 생성AI 응용 분야에 Backend.AI를 활용할 수 있음을 입증했다.

신정규 래블업 대표는 “ 보안이 요구되는 기업과 기관, 연구소 및 조직에 거대 언어 모델 기반의 다양한 서비스를 개발하고 사내에 통합하는 과정을 극단적으로 단순화하였다”며 “모든 조직이 Backend.AI 를 사용해 필요에 맞는 고유한 거대 언어 모델을 쉽게 파인 튜닝하고 운영할 수 있을 것”이라고 말했다.

현재 일부 Backend.AI 고객사들을 대상으로 베타 테스트 중인 거대 언어 모델 통합 기능은 9월 Backend.AI 정식 버전에 포함돼 온프레미스 고객사들에 제공된다. 이 서비스는 이달 21일부터 23일까지 서울 양재동 더케이호텔에서 개최되는 슈퍼컴퓨팅 관련 학술대회 및 전시회 KSC2023에서 확인할 수 있다.