수학 대회서 오픈AI 제쳤다…AI ‘국가대표’ [CEO 라운지]

김성훈 업스테이지 대표

지난해 9월 KT 100억원 투자. 올해 1월 SK네트웍스 250억원 투자.

범그룹 차원에서 통신업계 경쟁 관계에 있는 두 대기업이 한 스타트업에 비슷한 시기 투자(시리즈B)해 업계 눈길을 끈다. 화제의 스타트업은 업스테이지(Upstage). 특히 SK는 이번 CES 기간 중 투자 체결 기념행사를 열어 스타트업 투자 혹한기임에도 한국 AI 열기는 뜨겁다는 것을 대내외 천명했다.

업스테이지는 AI 솔루션 개발·공급 관련, 한국을 대표하는 스타트업으로 분류된다. 글로벌 대기업이 주도하는 초거대언어모델(LLM) 사업 대신 정보 보안과 영역별로 특화한 ssLLM(경량형 거대언어모델·small scale LLM)으로 차별화했다는 평가를 받는다. 특히 챗GPT 열기가 불기 시작한 초창기 모바일 메신저 카카오톡 기반으로 챗GPT를 활용할 수 있는 대화형 AI 서비스 ‘AskUp(일명 아숙업)’을 선보여 큰 파장을 일으켰다. 서비스 출시 후 약 1년 만인 올해 1월 기준 160만명이 이용하는 서비스로 키워냈다. 아숙업은 별도로 챗GPT 앱을 깔 필요 없이 카톡 회원이라면 친구 추가만 해도 문답형으로 다양한 질문을 할 수 있어 AI 대중화에 큰 기여를 했다는 평가를 받는다.

이런 스타트업을 만든 이가 김성훈 대표다. 홍콩과학기술대 교수 출신으로 네이버 클로바 AI 헤드를 거친 후 ‘직접 AI 시장을 열어보자’고 맘먹은 게(2020년) 오늘에 이른다. 홍콩과학기술대 교수 시절 이미 그는 AI 쪽에서 전문가로 정평이 났다. 소프트웨어공학과 머신러닝을 융합한 버그의 예측, 소스코드 자동 생성 등의 연구로 최고의 논문상(ACM Sigsoft Distinguished paper)을 4번이나 수상한 것이 대표적인 예다. 네이버 클로바 AI팀 시절에도 2017년 당시 3명이던 팀을 150명 규모로 키워내 업계를 놀라게 했다.

캘리포니아주립대 산타크루즈 박사/ 매사추세츠공대(MIT) 포스트닥 펠로/ ‘모두를 위한 딥러닝’ 강사/ 홍콩과기대 교수/ 2017년 네이버 클로바 AI 헤드/ 2020년 업스테이지 대표(현)

홍콩과기대 때 우수논문상 4번 수상

회사 관계자는 “(김 대표가) 네이버에서 근무할 당시 여러 기업을 만나며, 대부분 기업이 AI 비즈니스에 대한 경험 부족으로 인해 많은 양의 데이터와 IT 조직을 갖추고 있음에도 불구하고 AI 기술을 비즈니스에 적용하는 데 어려움을 겪고 있다는 사실을 깨달았다. 이는 곧 업스테이지 탄생의 계기가 됐다”고 소개했다.

업스테이지라는 기업명은 여러 기업을 AI의 무대로 ‘Up(올리다)’시켜준다는 뜻과 함께 국내 기업이 글로벌 무대로도 ‘Up(한 단계 발전)’할 수 있게 하겠다는 포부를 담았다는 후문.

이런 김 대표의 이력과 창업 철학 덕분인지 업스테이지에는 창업 초창기부터 인재들이 몰려들었다. 뜻을 함께한 이활석 CTO, 박은정 CSO가 대표적이다. AI 분야에서 일해온 기술 전문가로 이활석 CTO는 네이버 클로바의 문자 인식 기술(Optical Character Recognition·OCR)을 비롯한 컴퓨터 비전 기술 전반을 다루는 조직인 비주얼(Visual) AI팀을 이끈 경험이 발군이다. 박은정 CSO는 네이버에서 파파고 모델팀을 이끌며 언어 관련 AI를 다뤘다. 이뿐 아니라 메타, 아마존, 엔비디아, 이베이, 구글, 애플, 카카오, 네이버 등 국내외 유수 기업에서의 이력을 갖고 있는 각 분야의 전문가도 속속 몰려들었다.

유수한 인재 합류로 업스테이지는 창업 1년 반 만에 ‘AI 올림픽’ 캐글 대회에서 국내 기업 최초로 10번째 금메달을 획득하며 뛰어난 기술력을 전 세계에 자랑했다. 캐글 금메달을 수상한 김윤수 그랜드 마스터를 비롯 송원호, 박현병, 정익효 마스터 등이 맹활약했다. 이런 소식이 알려지자 글로벌 AI 출신 개발자도 속속 업스테이지에 합류하는 선순환 구도가 갖춰졌다.

물론 창업 후 승승장구만 했던 건 아니다. 아숙업 외에도 업스테이지는 다양한 서비스와 솔루션을 시장에 내놨다. 그런데 실제 고객사에 적용할 때 예상하지 못한 피드백이나 보완해야 할 점이 제기됐다. 회사 관계자는 “이를 반영하면서 고도화하는 과정에서 어려움이 있었다. 또한 초반에 솔루션화를 목표로 진행했던 3개 제품 중 솔루션화가 어렵거나 고객이 내려는 지불의사가격(Willingness to pay)이 회사가 계산했던 가정보다 낮아 2개 제품은 다른 사업 모델로 피봇팅(전환)해야 할 때도 있었다”고 말했다.

이런 시행착오 끝에 내놓은 업스테이지만의 사업 모델이자 주력 제품이 ‘솔라(solar)’다. 솔라는 세계 최대 기계학습(머신러닝) 플랫폼 허깅페이스가 운영하는 ‘오픈 LLM 리더보드’에서 74.2점으로 1위에 올랐을 정도로 기술력을 인정받았다. 글로벌 AI가 참가한 일종의 수학 경시대회(?)에서도 진가는 또 드러났다. 업스테이지, KT, 매스프레소가 공동 개발한 수학 특화 언어모델 매스GPT가 최근 열린 MATH 벤치마크에서 0.488점을 기록, 오픈AI, ToRA 7B 등 빅테크 기업을 제치고 1위에 올랐다.

이런 높은 수준의 솔라 모델은 기업 현장에서 다양한 형태로 적용하기에 최적이라는 것이 김 대표 주장이다. 글로벌 대표 SLM으로 작은 파라미터로 구성해 온프레미스(On-premise, 잠깐용어 참조)와 프라이빗 클라우드를 비롯, 심지어 온디바이스(통신이 끊겨도 자체 기기에서 작동)에도 활용할 수 있다고.

회사 관계자는 “독립적으로 구축이 가능해 보안성이 높고, 재학습, 추론비용이 합리적이며 SaaS(유료 구독형 IT 서비스)와 설치형 등 고객이 원하는 방식으로 활용할 수 있다. 기업별로 맞춤형 구축도 가능해 자신들의 데이터와 목적에 맞게 추가 학습하고, 다양한 생성 AI 서비스를 구축하고 운영할 수 있게 돼 더 큰 관심을 모으고 있다”고 소개했다.

업스테이지는 자체개발 AI ‘솔라’를 최근 ‘아숙업(AskUp)’에 탑재했다.

대기업과 확실한 차별화 숙제

해외 플랫폼과 호환 가능한 모델 개발에도 공들이고 있다.

최근 ‘미국 아마존 AWS 리인벤트 2023’ 행사에 참석, AWS의 클라우드 서비스와 AI 플랫폼을 활용해 자체 개발한 LLM을 구축하고 운영하는 과정과 성과에 대해 설명한 것도 이 같은 도전의 일환이다. 그 밖에도 Poe(글로벌 생성 AI 활용 플랫폼), 투게더AI 등 글로벌 플랫폼과 협력을 통해 자연스레 글로벌 진출도 일궈냈다. Poe는 쿼라가 운영하는 플랫폼으로 다양한 AI 모델과 대화하고 원하는 프롬프트를 입력해 나만의 챗봇을 만들 수 있다. 이 플랫폼에 솔라 모델을 등록, 일반인도 최소 성능의 업스테이지 LLM을 직접 활용하도록 운영하고 있다.

물론 넘어야 할 산도 많다. 오픈AI가 최근 챗봇 분야에서 누구나 챗봇을 만들어 앱스토어처럼 등재, 유통할 수 있는 장을 마련하는 등 AI 생태계가 글로벌 빅테크 중심으로 빠르게 재편되고 있다. 독자적인 기술력을 갖췄다 해도 얼마나 오픈 소스 기반 AI 서비스와 차별화할 것인지 업스테이지가 시장에서 증명해야 한다는 점은 과제다.

더불어 다양한 기업 수주가 이어지고 있다지만 실질적이고 구체적인 매출을 발생시켜야 한다는 명제도 있다. 추가 펀딩을 통해 기술 개발, 인재 영입 등에 써야 하는데 기업 발전 속도에 맞춘 자금 조달 능력을, 지금 같은 고금리 시대에 시의적절하게 발휘할 수 있을지도 관전 포인트다.

회사 관계자는 “ssLLM, SLM 스타트업의 생존 공식은 대기업과 다르다. 보다 저렴한 금액에 다양한 AI 서비스를 제공하는 것”이라며 “기업 고객이 AI 대기업 서비스에서 부족한 부분을 채우기 위해 찾는 첫 번째 회사로 발돋움할 것”이라고 포부를 밝혔다.

[본 기사는 매경이코노미 제2244호 (2024.01.24~2024.01.30일자) 기사입니다]