“국산 베슬에이아이 MLOps 플랫폼으로 국내외 기업 AI 도입과 활용 돕겠다”

[인터뷰] 안재만 베슬에이아이 대표

빠르게 성장하고 있는 AI 기술을 도입하려는 조직들은 많지만, 이를 처음부터 하나씩 구축하는 것은 쉽지 않은 일이다. 데이터 준비 작업부터 AI 모델 선정, 모델 구축, 학습, 그리고 개발과 운영에 이르는 각 과정마다 서로 다른 솔루션과 도구를 서로 연결하고 연동하는 복잡한 과정을 거쳐야 하기에, 섣불리 시도하기 어렵다. 시간과 비용은 물론이고 전문성까지 갖춘 인력이나 팀을 구성하는 것도 만만찮은 일이다.

이런 문제를 해결하기 위한 방안으로, 등장한 MLOps는 머신러닝 개발자들이 AI 모델 개발과 운영을 좀 더 빠르고, 쉽고, 비용 효율적으로 수행할 수 있도록 돕는다는 점에서 많은 기대를 모으고 있다.

데이터 수집과 준비 과정에서 AI 모델 개발, 배포, 운영하는 전 과정에 대한 툴과 인프라를 모두 제공하는 엔드 투 엔드 MLOps 플랫폼을 제공하는 베슬에이아이(Vessl AI)는 지금까지 데브옵스가 소프트웨어 개발 분야의 혁신을 이끌어 온 것처럼, MLOps가 AI 시대의 소프트웨어 개발에 혁신을 가져올 수 있을 것이라 믿고 있다. 게다가 이미 해외 여러 국가에서 주목받고 있어 국산 MLOps기술로도 글로벌 경쟁력에 자신만만하다.

안재만 베슬에이아이 대표를 만나 베슬에이아이의 MLOps 플랫폼이 어떻게 고객들의 AI 도입과 운영을 돕는지, 그리고 향후 AI 분야에서 MLOps가 갖는 중요성 등에 대해 들어봤다.

안재만 베슬에이아이 대표

AI 도입 시 조직들에게 가장 어려운 것은?

조직들은 AI 인프라 구축, 데이터 관리, 모델 학습, 배포의 복잡성 등 여러 어려움에 직면하고 있다. 이런 어려움을 MLOps가 해결할 수 있다. MLOps는 기존의 ML 개발 프로세스를 표준화하고 자동화해, 조직들이 AI 모델을 더 빠르고 안정적으로 개발, 배포, 모니터링할 수 있게 도와준다. 이를 통해 조직들은 인프라 혹은 엔지니어링의 문제에 소요되는 시간을 줄이고, 실제 비즈니스 문제에 집중할 수 있다.

베슬에이아이는 AI개발 전주기를 지원하는 MLOps 플랫폼을 제공하고 있다. 조직들은 복잡한 인프라를 구축하고 다양한 툴을 연동하기 위한 작업 없이, 간단한 인터페이스를 통해 AI 개발과 운영 과정을 처리할 수 있다.

베슬에이아이 MLOps 플랫폼의 특징은?

베슬 플랫폼(VESSL Platform)은 크게 런(Run), 파이프라인(Pipeline), 아티팩트(Artifact) 등 3가지로 구성돼 있으며, 데이터 전처리부터 모델 학습과 배포까지의 전주기를 지원하는 엔드투엔드 솔루션이다.

'런'은 개발자가 클라우드나 인프라에 대한 고민 없이, 머신러닝 학습과 배포를 하나의 인터페이스에서 수초만에 실행할 수 있다. '파이프라인'은 데이터 전처리, 모델 학습, 배포 등의 일련의 과정을 자동화하고, '아티팩트'는 AI모델 운영 과정에서의 데이터, 모델, 프로젝트 현황, 클러스터 상태 등을 하나의 대시보드에서 확인할 수 있다.

베슬에이아이는 다양한 산업의 스타트업부터 대기업까지 다양한 규모의 조직의 AI 비즈니스 적용을 기업 맞춤형으로 지원하고 있다. 예를 들어 AI 스타트업은 멀티클라우드를 구축해 저렴한 GPU 클라우드를 자동으로 찾아 사용할 수 있도록 해 GPU 비용을 크게 절감할 수 있다. AI 도입을 원하는 중견기업은 즉시 사용할 수 있는 AI 모델로 빠르게 AI 모델을 자사의 비즈니스에서 테스트할 수 있다. 또한 내부에 AI 팀을 보유한 대기업은 복잡한 AI 개발 과정을 자동화해 개발과 운영과정에서의 비효율을 제거, 그에 따른 시간과 비용을 절감할 수 있다.

주요 고객과 타킷 시장은?

베슬에이아이는 현재 현대자동차, 티맵모빌리티, KAIST, 서울대 공과대학교, 스캐터랩, 뤼튼 등 국내 주요 기업과 연구소의 AI 팀이 사용하고 있으며, 시간과 비용, 안정적인 운영 편의성 측면에서 도움을 주고 있다.

우선 시간 측면에서는 인프라 설정이나 자동화 파이프라인을 통해 AI 모델 개발까지 걸리는 시간을 80% 이상 단축할 수 있으며, 비용 측면에서는 멀티클라우드 등의 전략으로 컴퓨팅 비용을 70% 이상 절감할 수 있다. 또한 AI 모델 성능에 대한 모니터링을 제공함으로써 모델 이상 탐지가 가능해, 엔터프라이즈 급 트래픽이 들어오는 환경에서 안정적인 AI 모델 운영을 돕는다.

베슬에이아이는 다양한 분야의 AI 사용 조직을 대상으로 시장을 확대하고 있다. 고객들의 만족도도 높아, 기존 사용자들의 추천이나 소개를 통해 지속적으로 다양한 분야에서 고객들이 유입되고 있는 상황이다. 그리고 이렇게 확보된 고객들은 다양한 분야에서 사용 시나리오를 확보해 나가고 있다. 특히 자율주행, 생성AI 등 각 분야별 최고의 고객들과 함께 강력한 사례를 구축하고 있다.

요즘 부상하는 AI 문제는 어떻게 해결하나?

베슬 플랫폼은 조직의 내부 인프라에서 직접 생성AI 모델, LLM을 운영할 수 있도록 지원하며, 외부와 분리된 환경에서 사내 데이터를 기반으로 LLM 모델을 학습할 수 있도록 제공하고 있어 보안이나 데이터 유출 문제를 근본적으로 방지할 수 있다.

또한 데이터 편향이나 거버넌스를 관리할 수 있도록 자동 데이터 전처리와 LLM 플로우(Flow)을 제공함으로써 LLMOps의 영역에서도 활용할 수 있다.

향후 계획은?

생성AI 시장이 빠른 속도로 성장함에 따라, 최근에는 특히 생성AI 분야의 고객 확보에 집중하고 있다. 이를 위해 LLM 학습과 파인튜닝에 필요한 인프라 지원은 물론이고 멀티클라우드를 통한 비용 최적화된 GPU 확보 등에 집중하고 있다.

베슬에이아이는 SaaS 형태로 누구나 쉽고 빠르게 AI 개발 환경을 조성하고 애플리케이션을 개발할 수 있도록 지원하기 때문에, 국내 뿐 아니라 미국과 같은 해외에서도 빠른 시장 진입을 목표로 할 수 있는 환경을 조성하고 있다. 미국 시장 진출을 위해 NeurIPS, CVPR 등 대표적인 AI 컨퍼런스에 참가하고 각종 이벤트 주최, 구글 등의 기업과의 파트너십 등을 추진하고 있다.

전자신문인터넷 유은정 기자 judy6956@etnews.com