[스케일업 리포트] '휴가규정'만 입력하면···수천 페이지 대신 봐준다

◆올거나이즈
자연어 질문에 문서 내 정보 검색
기업 데이터 학습없이도 투입 가능
맞춤형 고도화땐 정확도 95% 수준
LLM 활용 앱 제작 솔루션도 제공
日 노무라증권 등 대기업서 사용
국내선 현대카드·KB證 주요 고객
2025년 日 상장···글로벌 공략 속도

이창수 올거나이즈 대표. 사진제공=올거나이즈

[서울경제]

“인공지능(AI)을 활용한 다양한 솔루션과 서비스를 통해 기업의 생산성 혁신·향상에 기여하고자 합니다. ”

이창수(사진) 올거나이즈 대표는 최근 서울 서초구 사옥에서 진행한 서울경제신문과의 인터뷰에서 “단순 작업은 AI가 처리하고 인간은 부가가치가 높은 영역의 업무에 매진하도록 하는게 회사의 비전”이라며 이같이 강조했다.

2017년 설립된 올거나이즈는 자연어 기반의 인지 검색 솔루션인 ‘알리 앤서(Answer)’를 기반으로 성장했다. 알리 앤서는 이용자가 자연어 형태의 질문을 해도 AI가 기업 내 다양한 형태의 문서에서 정확한 답변을 자동으로 찾아준다. ‘휴가 관련 규정 찾아줘’라고 입력하면 AI가 해당 내용을 찾아 제시해 준다. 사내 문서를 직접 뒤져보지 않고도 내용을 숙지할 수 있어 생산성을 끌어올릴 수 있다. 사내 정보기술(IT) 헬프데스크, 신입·경력 사원 교육, 법무팀의 준법지원(컴플라이언스) 적합성 진단 등 다양한 분야에서 활용하고 있다. 고객 대상 챗봇으로도 활용되고 있다.

━

알리 앤서, 학습 없이 바로 투입 가능

알리 앤서의 강점은 ‘노 태깅(No Tagging)’이다. 기업의 자체 데이터 학습 과정 없이 바로 사용해도 70% 수준의 정확도를 나타낸다. 사전 학습된 AI 모델이기 때문이다. 각 산업의 공개 데이터·규약을 크롤링(Crawling)한 뒤 파인튜닝해 산업별 베이스라인 모델을 만들었다. 이후 고객사가 보유한 데이터와 자주 묻는 말을 학습시켜 기업 맞춤형 모델로 고도화한다. 사용 중 피드백을 통해 몇 주 안에 정확도를 95%가까이 높일 수 있다. 이용자가 알리 앤서를 신뢰할 수 있도록 사내 문서나 홈페이지 등 답변 출처를 프리뷰 형태로 제시한다. 서비스 형태도 서비스형소프트웨어(SaaS)·하이브리드·온프레미스 등 다양하게 제공해 기업 고객은 각 사의 필요에 따라 활용할 수 있다.

기업 고객 사이에서 알리 앤서의 성능은 입증되고 있다. 알리 앤서를 도입한 스마일게이트 메가포트의 고객 문의 자동 응답률 85%를 기록했다. 노무라 증권이 AI 챗봇 솔루션 4개를 비교한 결과 알리 엔서의 비용 대비 효과가 가장 좋은 것으로 나타났다. 이 대표는 “국내 한 주요 고객사의 IT 헬프데스크 담당자들의 업무량은 30% 줄었지만 처리 건수는 오히려 1.5배 늘었다”고 말했다.

이창수 올거나이즈 대표.

━

LLM 기반 앱 제작시 코딩 필요 없어

올거나이즈는 기업 고객이 거대언어모델(LLM)을 활용해 간편하게 애플리케이션을 만들 수 있는 ‘올인원(All in one)’ 솔루션도 제공한다. 고객사가 각자에 적합한 언어 모델을 고르면 된다. 라마2(Llama2), 돌리(Dolly), 스테이블LM, 블룸(Bloom) 등 오픈소스 LLM을 파인튜닝(미세조정) 해서 쓸 수 있다. 오픈AI의 GPT-4나 구글의 바드 등 빅테크 기업의 거대 언어모델도 선택해 서비스형 소프트웨어(SaaS) 형태로 활용할 수도 있다.

앱 제작 과정에서 코딩이 필요 없는 것도 특징이다. 직관적인 이용자 인터페이스(UI)를 구축해 개발자가 아니더라도 단시간 안에 앱을 만들 수 있다. 고객사는 회계·인사·마케팅 등 직무별 업무를 자동화하는 앱을 개발할 수 있다. 이 대표는 “LLM 모델부터 인프라, 미들웨어, 앱 빌더 모두 제품화가 돼있다는 점에서 다른 기업들과 차별화된다”며 “예전에는 모델을 바꾸는 데만 수십 명의 기술자를 투입해야 했지만 올거나이즈의 솔루션을 통해서는 클릭 한 번으로 해결할 수 있다”고 설명했다. 그는 이어 “LLM 기반의 앱으로 채용 과정이나 계약서 내용을 세세하게 비교하는 과정을 자동화한 고객 사례도 있다”면서 “회사의 경영 철학과 마케팅 방향이 일치하도록 자동으로 구현할 수 있다”고 말했다.

고객사가 LLM을 사내 구축형으로 활용할 수 있다는 것도 장점으로 꼽힌다. 민감한 정보 유출에 대한 기업 고객의 우려를 해소할 수 있기 때문이다.

━

매출 60% 일본서 발생···"글로벌 공략 강화"

올거나이즈는 유료 기업 고객을 200곳 가까이 확보했다. 제한된 기능을 무료로 사용하는 고객사까지 포함하면 2500곳으로 늘어난다. 올거나이즈 솔루션을 한 번이라도 써본 누적 가입자 수는 2000만 명을 넘는다. 일본 미쓰이스미토모은행(SMBC)이 IBM 대신 올거나이즈를 택하며 기술력을 인정하자 고객 유치에 속도가 붙었다. 노무라증권, 유통사 이온그룹, 화장품사 까오, 이동통신사 KDDI 등 일본 주요 대기업들이 올거나이즈 솔루션을 사용하고 있다. 국내에서는 현대카드, KB증권, 스마일게이트가 주요 고객이다. 이 대표는 “중요한 레퍼런스인 SMBC를 조기에 기업 고객으로 확보하며 사업 확장에 나설 수 있었다”면서 “SMBC 유치가 고객사 확장의 기폭제 역할을 했다”고 말했다.

올거나이즈는 시리즈A 단계의 투자까지 마무리했다. 총투자 유치액은 1500만 달러(약 198억 원)다. 2018년 일본 글로벌브레인 등이 160만 달러를 초기(시드) 투자했고, 2019년 스파크랩벤처스, 베이스인베스트먼트, 라구나인베스트먼트, 패스트인베스트먼트 등이 340만 달러 규모의 시리즈A1 투자를 단행했다. 2021년에는 에이티넘인베스트먼트, 스톤브릿지벤처스, 일본 SMBC와 기존 투자자 등이 1000만 달러 규모의 투자를 진행했다.

지난해 말 불어닥친 ‘챗GPT 신드롬’은 올거나이즈에게 또 다른 도약의 계기가 됐다. AI의 효용을 대중들도 체감하게 되며 파괴력이 커졌기 때문이다. 올거나이즈는 알리 앤서에 LLM을 접목해 고도화했다. 알리 엔서가 기업 내무 문서뿐만 아니라 외부 검색을 활용해 답변한다. 정보를 종합한 뒤 요약하는 기능도 더해졌다. 대답의 출처도 제시해 신뢰성도 높였다. 이 대표는 “챗GPT는 AI의 쓸모를 증명했다”면서 “7월 계약 건수는 1월 대비 40%증가했다”고 말했다.

올거나이즈는 2025년 일본 증시에 상장할 예정이다. 지난해 8월 도쿄거래소 상장을 목표로 본사 기능을 미국 휴스턴에서 일본 도쿄로 이전했다. 매출의 60% 가까이 일본에서 거두고 있다. 올거나이즈는 상장 전에 추가 투자를 유치할 계획이다. 이 대표는 “올해는 LLM 인에이블러(Enabler)로서의 기반을 다지는 해가 될 것"이라면서 “절반이 넘는 기존 유료 고객사가 LLM 올인원 솔루션을 활용하도록 힘쓸 것”이라고 말했다. 그는 이어 “글로벌 진출과 성장 가능성 등을 종합적으로 고려해 일본 상장을 결정했다”면서 "2025년 상장을 바탕으로 글로벌 시장을 더욱 활발하게 공략하겠다”고 강조했다.

김성태 기자 kim@sedaily.com