포티투마루, 토종 AI모델로 유럽 공략 “웹사이트를 AI에이전트로...” [AI프런티어]

김동환 포티투마루 대표 인터뷰
영국부터 유럽 전역으로 시장 확대
경량화 모델로 기업 맞춤형 AI 제공
“B2B2C로 웹사이트를 AI에이전트로 교체”
LG유플러스 투자 유치, 기술력 인정
다양한 특화 솔루션으로 차별화 시도할 것

김동환 포티투마루 대표

포티투마루(42Maru)는 토종 언어모델 스타트업으로 드물게 유럽에 진출한 기업이다. 작년 구글 아시아태평양본부 리드 출신인 리즈완 칸을 영입했다. 본격적으로 런던지사를 운영하기 위해서다. 현재 영국을 발판으로 유럽 전역으로 공략을 서두르고 있다. 또 LG유플러스로부터 100억원 규모 지분투자를 유치하는 데 성공하기도 했다. 포티투마루에 들어 있는 숫자 ‘42’는 SF 고전인 ‘은하수를 여행하는 히치하이커를 위한 안내서’에 나오는 궁극의 질문에 답하는 슈퍼컴퓨터 이름이다. 그만큼 궁극의 AI를 내놓겠다는 포부다. 매일경제 미라클AI가 김동환 포티투마루 공동창업자겸 최고경영자(CEO)를 만났다.

질문: 부산대 컴퓨터공학 학사 석사를 졸업하고 첫 직장으로 엠파스를 택했다.

답변: 1999년 병역특례로 엠파스에 입사했다. 이준호 NHN 회장, 한성숙 전 네이버 대표 등 4명 정도 있었다. 엠파스가 ‘자연어 검색 서비스’를 처음 만들기 이전이었다. 이후 엠파스를 2006년 SK커뮤니케이션즈에서 인수했다. SK커뮤니케이션즈에서 개발, 기획, 전략, 마케팅을 모두 다 해봤다. 검색 사업 본부에서 사업총괄이었다. 병역특례로 입사했는데, 대기업 본부장까지 다해 본 것이다. 이후 휴식이 필요해 2013년 그만뒀다. 어떻게 보면, 운이 좋았다. 가로 세로 다 경험을 해보았다.

딥러닝 시대 목격하고, 포티투마루 창업

질문: 하지만 이후 창업을 했다.

답변: 은퇴하면, 남해에 있는 폐교를 인수해 게스트하우스를 운영하고 싶었다. 하지만 딥러닝이 본격적으로 부상하는 것을 목도하고 창업하지 않을 수 없었다.

질문: 당시로서는 딥러닝이 생소했을 것 같다.

답변: 엠파스 재직 시절인 2012년 딥러닝이 본격화되고, 무엇인가 시장의 패러다임이 바뀔 것 같다는 생각이 들었다. 빅테크 기업들이 서서히 시장에 진입하는 시점이었다. 딥러닝을 연구하면서, 딥러닝이 패러다임을 바꿀 것으로 예상했다. 다만 관건은 수익이었다. 그래서 창업 때 글로벌 사업, 서비스형소프트웨어(SaaS)로 비즈니스 모델을 잡았다. 종전 검색에서는 검색을 하면 문서가 나열 되는 형식이었는데, AI가 곧바로 답변하도록 해보면 좋겠다고 생각했다. 이는 엠파스때도 시도했었지만, 당시 기술이 뒷받침되지 않았다.

질문: 창업 초기가 궁금하다.

답변: 창업 초기 멤버는 5명이었고 2년간 연구개발에 골몰했다. 그러던 중 2017년 네이버 계열인 스프링캠프로부터 초기 투자를 받고 사업을 확장했다.

김동환 포티투마루 대표

질문: 첫 프로덕트는 무엇이었나.

답변: 처음에는 검색한 것을 발췌하는 기술을 선보였다. 이후 딥러닝으로 영역을 확대했다. 상용화를 한 시점은 2019~2020년이다. 당시 기술은 MRC(Machine Reading Comprehension) 기반이었다. AI가 주어진 텍스트를 읽고 질문에 답하는 방식이다. 이 방식의 특징은 정확도는 높지만, 커버리지가 좁다는 것이다. 즉, 특정한 주제나 문맥에 대한 답변은 잘 하지만, 다양한 주제를 다루는 데에는 한계가 있다. 이를 개선하기 위해 모델의 파라미터를 늘려야하는데, 비용 대비 효과가 크지 않았다. 파라미터를 크게 늘리면, 결국 LLM(Large Language Model, 대규모 언어 모델) 방식으로 넘어가게 된다. MRC도 트랜스포머(Transformer) 기반 기술을 사용한다. 이후 2019년 생성형AI로 방향을 전환했다. 포티투마루는 이를 활용해 마이크로소프트 경진대회 1등도 차지하고, 상용화도 했다.

포티투마루의 기술력은 크게 세 가지로 구분된다. QA42는 AI 기반의 질문 응답(Question Answering) 솔루션이다. 해당 솔루션은 기계 독해(MRC, Machine Reading Comprehension)와 재구성(Paraphrasing) 같은 고급 AI 기술을 사용해, 회사 내에 흩어진 다양한 형태의 문서를 구조화하고, 질문에 대해 의미를 이해하고 하나의 명확한 답변을 제공하는 시스템이다. 또 챗42(CHAT 42)는 자연어 이해(NLU, Natural Language Understanding), 문맥 관리(CM, Context Management), 대화 관리(DM, Dialogue Management) 같은 언어 지능 기술을 적용해, 사람과 대화하는 것처럼 자연스러운 대화 경험을 제공한다. 또 NL42도 있다. AI 기반의 자연어 처리(NLP, Natural Language Processing) 모델을 통해 사용자의 질문을 분석한다. 여기에는 형태소 분석(POS, Part-of-Speech tagging), 명칭 인식(NER, Named Entity Recognition), 그리고 도메인 및 의도 분류가 포함된다.

질문: B2C 일반 챗봇을 하지 않은 이유가 궁금하다.

답변: 한국 시장 규모로 볼 때 B2C 로는 경쟁력이 없을 것으로 판단했다. 그래서 정한 것이 B2B용 엔터프라이즈 시장이다.

질문: 어떤 파운데이션 모델을 쓰고 있나.

답변: 크게 4가지다. 우선 자체개발한 소형 언어모델인 LLM42가 있다. 언어 모델 경량화 버전을 실현한 것으로 비용을 크게 낮춘 것이 장점이다. 특히 기업용 모드를 지원한다. 기업 내부의 민감한 데이터를 걱정할 필요가 없다. 또 네이버의 하이퍼클로바X(HyperCLOVA X) 경량화 버전을 사용한다. 네이버는 소스코드를 제공해서 해당 모델을 조정(튜닝)할 수 있게 했다. 해당 경량화 버전은 온프레미스(클라우드와 달리 기업 내 서버에서 직접 운영하는 방식)에서 작동할 수 있도록 지원된다. 아울러 라마(LLaMA) 모델도 경량화 버전으로 운영하고 있으며, 이 버전은 속도가 빠르다는 특징을 가진다. LG의 익시젠(ExaOne) 역시 경량화 버전으로 운영하고 있다.

“모든 홈페이지를 LLM 대화형 에이전트로...”

포티투마루 홈페이지

질문: 포티투마루 향후 발전 방안이 궁금하다.

답변: 현재 유럽은 언어 처리 쪽이 매우 약하다. 빅테크 기업이 독점을 하고 있기 때문이다. 더욱이 유럽에서 AI를 공부한 연구자가 손쉽게 빅테크로 이직한다. 언어처리 영역에서 제대로 하기 힘든 구조다. 향후 방향을 AI 엔터프라이즈 시장으로 잡는다고 하면, 미국은 단일 국가로서 크지만 빅테크가 독과점을 하는 것이 걸림돌이다. 현재 영국 자회사가 있다. 현재 기술을 갖고 프랑스나 독일로 확장하는 것도 방법이다. 초기 스타트업이 비즈니스를 확장하는 데 있어서, 유럽은 상당히 매력적인 시장이다. 인종이 다양하고, 최소 자본으로 운영을 할 수 있다.

질문: 서비스형소프트웨어(SaaS)는 어떤 방향인가.

답변: 중요한 것은 성능과 가격이다. 우리는 이를 솔루션으로 패키징 한다. 예를 들어 문장을 요약해주는 AI 엔진만 판다면 승산이 없다. 금융 경제 등 전문 분야로 특화해야한다. 모두 사업의 성격이 다르다. 예를 들어 보험이 있다고 해보자. 여기에는 약관을 요약해서 답변하는 것이 중요할 수 있다. 또 건설을 생각해보자. 설계 문서를 요약해 답변해 줄 때도 소비자들이 이해를 하면서도 정확히 답변을 해야 한다. 더 나아가서는 리스크 전망을 할 수 있다. 특화되지 않은 AI 엔진을 제공하는 것만으로는 경쟁력이 없다.

질문: 향후 포티투마루가 그리는 미래는 무엇인가.

답변: B2B2C( Business-to-Business-to-Consumer) 형태로 패키징하는 서비스를 하는 것이다. 포티투마루가 AI를 고객사에 제공하면, 해당 고객사가 최종 소비자에게 제공하는 형태가 될 것이다. 개념적으로는 세상의 모든 홈페이지를 LLM 대화형 에이전트로 바꾸는 것이다.