미·중 독주 AI 시장에…‘차세대 AI 모델’로 정면 승부 나선 韓 스타트업

[헬로, 프런티어]
신재민 트릴리온랩스 대표·김영무 카카오벤처스 심사역 공동 인터뷰

지난 5일 서울 강남구의 한 스튜디오에서 신재민 트릴리온랩스 대표(오른쪽)와 김영무 카카오벤처스 심사역이 포즈를 취하고 있다. /장경식 기자

현재 거대언어모델(LLM) 등으로 대표되는 인공지능(AI) 모델 시장은 미국과 중국의 독주 체제다. 오픈AI(챗GPT), 구글(제미나이), 앤트로픽(클로드) 등 미 빅테크들이 시장을 선점한 가운데, 중국은 오픈소스를 무기로 생태계를 확장하고 있다. 이 때문에 많은 기업은 독자적인 AI 모델을 개발하기보다 고성능 모델을 가져와 “AI로 어떻게 돈을 벌까” 하는 응용 서비스 개발에 집중하고 있다.

이런 흐름 속에서 AI 모델의 밑바닥인 아키텍처(구조)부터 직접 설계하며 정면 승부를 택한 한국 스타트업이 있다. 정부의 ‘독자 파운데이션 모델’(국가대표 AI) 추가 모집에 도전장을 낸 트릴리온랩스다. 네이버의 LLM ‘하이퍼 클로바X’ 개발진으로 참여한 신재민 대표가 2024년 창업했고, 기술적 이해도가 높은 투자사로 꼽히는 카카오벤처스가 투자자로 참여했다. “굳이 독자적인 LLM 개발을 택했고, 리스크가 큰 LLM 개발 스타트업에 투자했을까?” 지난 5일 서울 강남구에서 신 대표와 김영무 카카오벤처스 심사역을 만났다.

◇진정한 ‘프롬 스크래치’

지난 1차 ‘독자 파운데이션 모델’ 선발 과정에서 ‘프롬 스크래치(From Scratch·처음부터 개발)’가 논란이 됐다. ‘국가 대표 AI’를 선발하는 데 어느 범위까지 독자성을 인정할 것인가 하는 문제다. 최근 많은 기업은 이미 검증된 빅테크의 아키텍처를 빠르게 차용해 고도화하는 전략을 취한다. 비용과 시간 면에서 효율적이기 때문이다. 그러나 신 대표는 “엔진을 직접 설계할 수 없으면 결국 완성차를 가져다 파는 유통업자에 머물 것”이라고 했다. 김 심사역 역시 “특정 산업 영역에서 깊게 경쟁하는 기업들은 자체 모델을 보유하는 경우가 많다”고 했다.

신 대표는 “후발 주자가 검증된 아키텍처를 빠르게 고도화하는 것만으로는 글로벌 선도 그룹을 따라잡기 어렵다”고 했다. 이미 격차를 벌린 선발 주자들이 자체 모델을 계속해서 고도화하고 있고, 일본·인도 등 한국보다 쏟아부을 자원이 많은 나라와 경쟁하는 상황에서 이들을 빠르게 따라가는 ‘패스트 팔로워’ 전략으로는 ‘AI 3강’에 도달할 수 없다는 설명이다. 대신 트릴리온랩스는 독자적인 아키텍처 설계 방식을 택했다.

빅테크 기업들이 수조 원을 투자하며 압도적인 격차를 내는 상황에서 독자적인 아키텍처 개발이 경쟁력을 가질 수 있을까. 김 심사역은 “트랜스포머 아키텍처(자연어 처리·생성 AI의 핵심 설계도)를 처음 제안한 것은 구글이었지만, 시장 주도권은 오픈AI가 가져갔다”며 “결국 기술력이 중요하다. 투입 자원만 본다면 구글이 한 번도 1등을 내놓지 않았어야 한다”고 했다.

트릴리온랩스의 모바일 월드 모델 'gWorld-32B'/뉴스1

◇차세대 아키텍처 공개

트릴리온랩스의 경쟁력은 자원 효율을 극대화한 독창적인 설계 역량에서 나온다. 이들은 자체 개발한 XLDA(Cross-Lingual Document Attention) 기술을 통해 7B(매개변수 70억개) 모델을 2억원대 비용으로 구축하며 압도적인 가성비를 입증했다. 매개변수(파라미터)가 많다는 것은 AI 모델이 더 복잡한 패턴을 기억하고, 더 섬세하게 데이터를 이해해 그만큼 성능이 좋다는 의미다. 하지만 메모리·연산 비용이 커지는 단점도 있다.

XLDA는 영어 기반 지식을 한국어·일본어같이 학습 데이터가 부족한 언어에도 효과적으로 전이하는 데이터 학습 방법론으로, 학습 비용을 기존 대비 12분의 1 수준으로 낮췄다. 또 개발 1년도 안 돼 매개변수 70억·210억·700억개 크기의 모델 3종을 개발했다.

최근에는 ‘확산(Diffusion)’ 기술 기반의 ‘트리다-7B’를 선보였다. 기존 LLM이 단어를 하나씩 이어 붙여 문장을 만드는 방식이라면 확산 기술은 문장의 윤곽이 한 번에 드러나게 해 추론 속도를 획기적으로 높인다. 원래 이미지 생성에 쓰이던 기술로 멀티모달(텍스트·이미지·영상 등 여러 형태의 정보를 함께 처리하는 모델)의 핵심으로도 꼽힌다. 구글 등 글로벌 빅테크들이 차세대 아키텍처로 점 찍은 방식으로 수만 장의 GPU를 쓰는 이들과 달리 트리다-7B는 엔비디아 H200 GPU 80장으로 개발됐다. 또 작년 글과 사진을 모두 이해하는 인공지능(VLM·시각언어모델)을 선보인 데 이어, 지난 9일에는 월드 모델 ‘gWorld-32B’을 공개했다. 월드 모델은 다음 장면을 미리 예측해 보여주는 모델이다. 기존 월드 모델이 미래 화면을 한 칸 한 칸 색칠 공부(픽셀 단위)하듯 그렸다면, 이 모델은 컴퓨터 설계도(코드)를 먼저 짠 뒤 실제로 작동하는 화면을 만들어 낸다.

◇‘독파모’ 도전

신 대표는 “창업 초기 미국 투자자들은 기술이 정말 경쟁력이 있는지를 물었다면, 국내에서는 ‘왜 LLM을 만드냐’는 질문이 많았다”고 했다. 이때 카카오벤처스의 투자가 창업의 결정적 계기가 됐다고 한다. 김 심사역은 “적은 비용으로 구현할 수 있다는 분명한 기술적 마일스톤(이정표)이 있었고, 이를 지속적으로 증명해 왔다”며 “치열한 내부 논쟁 끝에 투자를 결정했다”고 했다. 김 심사역은 한국과학영재학교를 나와 KAIST 전기전자공학부를 졸업했다.

트릴리온랩스는 ‘독자 파운데이션 모델’ 1차 선발 당시 루닛 주관 컨소시엄으로 참여했지만, 이번 국가대표 AI 선발전 추가 모집에는 직접 주관사로 재도전에 나섰다. 신 대표는 “사실상 처음이라는 마음으로 도전했다”며 “개발 기간의 길이보다 어떤 방향으로 기술을 축적해 왔는지가 더 중요하다”고 했다.

인터뷰 내내 반복된 “그럼에도 왜 LLM에 도전하느냐”는 질문에 대한 이들의 답은 기자의 예상을 크게 빗나갔다. “주변의 똑똑한 개발자 친구들이 모두 미국으로 떠나는 시대, 우리 자식들도 한국에서 다닐 만한, 글로벌 경쟁력을 갖춘 회사를 만들고 싶다”는 것이었다.

신재민 트릴리온랩스 대표/장경식 기자