[스타트UP] 수천 페이지 문서에서 빨리 답 찾아주는 AI ‘알리’

고객용 챗봇, 업무 보조 등에 활용
“日 업종별 1위 기업 고객사 확보”

“회사에서 하루에 8시간을 일한다고 치면 그중에 평균 2~3시간은 각종 정보를 찾는 데 쓴다고 한다. 사내 검색 시스템이 열악해서 그렇다. 정확한 검색 결과를 얻기 위해선 ‘노트북’과 ‘랩톱’처럼 표현이 다르면 안 되고 맞춤법이나 띄어쓰기도 정확해야 한다. 이런 문제를 해결해 업무 효율을 올리기 위해 개발한 것이 자연어 기반 인지 검색 서비스 ‘알리(Alli)’다.”

올거나이즈는 2018년 설립된 인공지능(AI) 스타트업이다. 알리는 플랫폼에 접속해 문서를 업로드한 뒤, 문서 내용에 대해 자연어로 질문하면 답을 찾아주고 근거가 되는 내용을 함께 보여주는 서비스형 소프트웨어(SaaS)다. SDK(Software Development Kit, API(Application Programming Interface) 등 소프트웨어 개발 도구 형태로도 기능을 제공하기 때문에 플랫폼 접속 없이 기존에 사용하던 도구에 알리의 기능을 탑재할 수도 있다.

올거나이즈를 창립한 이창수 대표는 2010년 설립한 게임 데이터분석 기업 파이브락스가 세계 최대 모바일 광고기업 탭조이에 거액에 인수되면서 주목을 받았다. 이 대표는 “매각 이후 탭조이의 수석부사장으로 일하던 중 딥러닝(심층학습)이 모든 것을 바꿀 수 있겠다는 것을 배웠다”며 “딥러닝으로 기업의 업무 효율화를 이루겠다는 목표로 올거나이즈를 창업했다”고 말했다.

이창수 올거나이즈 대표가 사업모델에 대해 설명하고 있다. /올거나이즈 제공

올거나이즈는 한국을 비롯해 미국 휴스턴과 실리콘 밸리, 일본 도쿄, 인도에 현지 직원을 두고 글로벌 대기업과 기관 등을 대상으로 서비스를 제공하고 있다. 일본 최대 증권사인 노무라증권을 비롯해 국내외 고객사 2500곳을 확보한 올거나이즈는 일본에서 상장을 준비하고 있다. 본사도 도쿄로 옮겼다. 지난달 오랜만에 한국을 찾았다는 이 대표를 서울 강남 사무실에서 만났다.

-파이브락스 이후 두 번째 창업 회사다. 계기가 궁금하다.

“파이브락스 매각 후 탭조이에서 일하기 위해 2015년쯤 미국에 가게 됐다. 당시 AI 딥러닝이 음성 인식과 영상 구분에서 사람보다 높은 점수를 내기 시작했다. AI가 부분적으로 인간의 능력을 뛰어넘는 것을 보면서 딥러닝이 모든 걸 바꿀 수 있겠다는 생각이 들었다. 당시 다음 창업을 고민하고 있던 시기라 자연스럽게 데이터와 딥러닝을 창업 아이템으로 생각했고 기업의 생산성을 높이는 서비스를 해보자고 생각했다.”

-’알리’에 대해 구체적으로 설명해달라.

“알리 앤서(answer)와 알리 캡처(capture)가 있다. 알리 앤서는 기업용 문서를 학습한 뒤 질문에 대한 답을 찾아주는 기능이고, 알리 캡처는 보험금 청구서, 감정평가서 등 서류의 중요한 숫자 등 핵심 내용을 자동으로 추출해 정리해주는 기능이다. 전부 자연어를 기반으로 하고 있어 의미만 통한다면 여러 키워드를 사용해도 된다.

고객사들이 알리를 활용하는 방법은 크게 두 가지다. 첫 번째는 고객 응대용 챗봇이다. 특히 내부 규정에 기반해서 정확한 답변이 필요할 때 활용한다. 예를 들어 미국 오클라호마주 정부의 경우 웹사이트에 들어가면 알리가 탑재된 AI 챗봇을 볼 수 있다. 오클라호마주의 각종 규제 문서를 학습한 챗봇이다. 주택 담벼락 높이를 최대 몇 미터(m)로 규정하고 있는지, 의료용 마리화나가 합법인지 등을 챗봇에 자연어로 물어보면 관련 규정을 보여주면서 대답해 준다.

기업 내부용으로 쓰는 사례도 많다. 예를 들면 콜센터 상담원 보조용으로 쓸 수 있다. 상담원이 고객과 통화하면 대화 내용이 텍스트로 변환돼 모니터에 뜨는데, 여기에 알리를 적용할 수 있다. 고객의 질문 내용을 클릭하면 알리가 답을 찾아내고 근거가 되는 문서 내용을 띄워준다.

상담원은 ‘고객님 잠시만요’ 하면서 검색할 필요가 없어진다. 고객도 대기 시간을 줄일 수 있다. 판매·영업 분야에서도 비슷하게 활용하는데, 예를 들어 반도체 같은 경우에는 매뉴얼이 수천장에 달해 내용이 무척 방대하다고 한다. 고객 질문 하나에 답하기 위해 며칠을 헤매기 일쑤라고 한다. 이 경우 매뉴얼을 알리에 학습시키면 몇 초만에 해결할 수 있다.”

서울 강남구 올거나이즈 사무실 내부. /올거나이즈 제공

-사내문서를 외부 설루션에 학습시키면 보안에 대한 걱정이 나올 것 같다.

“알리가 학습하는 데이터는 절대 고객사의 벽을 넘을 수가 없다. 또 회사 규정상 사내 문서를 회사 밖 서버로 내보낼 수 없는 기업에는 개발 도구 형태로 알리 기능을 제공해 내부 플랫폼에 알리를 탑재해 쓸 수 있다. 기업의 보안 정책에 따라 여러 형태를 조합해 서비스를 제공하고 있다.”

-일본은 디지털화가 느린 나라 중 한 곳으로 꼽힌다. 일본 금융사가 가장 큰 고객이라는 점이 의외인데.

“코로나19 이전과 이후의 일본은 다른 나라라고 표현해도 무방할 만큼 기업 환경이 달라졌다. 무서운 속도로 디지털 전환이 이뤄지고 있다. 일례로 동남아시아에 신용카드가 상용화되기 전에 모바일 페이가 자리 잡은 것처럼 일본도 디지털 환경에 급격한 변화가 일었다. 이전엔 일본 고객사와 미팅을 하려면 당연히 회사에 찾아가야 했는데, 지금 올거나이즈 일본 사무실은 스스로 콜센터에 빗댈 정도로 전화와 화상 미팅이 활발하다.

두 번째로는 초고령화에 따른 일손 부족 문제도 있다. 일본은 청년 인구 비율이 점점 줄면서 업종을 막론하고 구인난이 심각하다. 디지털 전환을 하지 않으면 안 된다는 것이 사회적으로 공감을 얻고 있다. 디지털 전환을 전담하는 정부 부처도 있다. 이 때문에 알리도 자연스레 주목을 받게 됐다.

주요 고객사인 스미모토 미쓰이 은행(SMBC)은 세계에서 열한 번째로 큰 금융그룹이다. 비교적 변화가 느린 금융기관이지만, 글로벌 기업으로서 디지털 전환에 관심이 크다. 올거나이즈가 경쟁사 IBM을 제치고 SMBC와 연간 상용 계약을 70개 맺으면서 일본에서 좋은 평판을 쌓게 됐다.”

올거나이즈 도쿄 본사의 직원들. /올거나이즈 제공

-일본에서 상장하려는 것도 같은 이유인가.

“그렇다. 우선 저희의 사업 자체가 ‘디지털 전환을 통한 기업 생산성 향상’인데, 이에 대한 수요가 가장 높은 시장이 일본이다. 그렇다 보니 일본에 고객사가 제일 많아 선순환이 잘 돌아가는 구조가 됐다. 각종 산업군의 1등 기업이 저희 서비스를 이용하고 있고, 1등 기업을 따라 2등 기업도 저희 서비스를 쓰고 싶어 하는 상황이다. 미국에서는 우리가 직접 영업 전화를 돌리는 경우가 많다. 반대로 일본은 고객사에서 먼저 의뢰가 들어온다.”

-오픈AI의 ‘GPT’가 등장하면서 어떤 영향을 받았나.

“고객 행동이 바뀌었다. 자체 통계 자료를 보면 챗GPT가 등장하기 전엔 고객들이 알리 앤서에 질문할 때 문장으로 질문하는 비중이 30%를 겨우 넘겼다. 알리는 자연어 기반 AI라 사람한테 묻듯이 온전한 문장으로 물어봐야 더 구체적인 답변을 들을 수 있는데, 포털사이트에서 검색하던 습관 때문에 키워드 질문 비중이 70%에 달했다. 고객 행동은 교육으로도 잘 바뀌지 않아 고민이 많았는데 챗GPT가 등장하면서 사람들이 챗봇과 대화하는 법을 체득하게 된 것이다. 지금은 문장형 질문 비중이 70% 이상으로 역전됐다.”

-GPT를 결합한 ‘알리GPT’를 내놨다.

“자체 모델에 GPT를 결합한 형태다. 알리의 AI 모델은 방대한 내용 속에서 질문에 대한 답을 찾아주는 ‘리트리버 모델’이 있고, 리트리버가 답변 후보를 추려주면 ‘리더 모델’이 정확한 답을 골라주는 식이다. 둘 다 생성형 모델이 아니라 최적의 답변을 찾아주는 모델이다. 그런데 GPT를 적용하면 답변을 찾아주는 데서 더 나아가 답변을 요약을 해주거나, 내용을 분석해 추세를 알려주는 등의 기능까지 가능하다.

지난해 GPT 3.5가 이 생성 기능이 개선된 것을 발견하고 올해 2월에 알리GPT를 출시했다. 4월까지 두 달 동안 6개 고객사와 계약을 맺었다. 이렇게까지 빠르게 계약이 이뤄진 건 이번이 처음이다. 시장 반응이 상당히 좋다.”

알리의 챗GPT 플러그인 버전 시연 장면. 알리 SaaS 접속 없이 챗GPT만으로 문서 학습을 시키고 원하는 답을 찾을 수 있다. /올거나이즈 제공

-챗GPT 플러그인도 신청했다. 사업적으로 어떤 효과가 있을 것으로 기대하나.

“우선 GPT 플러그인은 챗GPT와 사용자 질문에 답변만 하는 것이 아니라 다른 프로그램의 기능까지 수행할 수 있도록 하는 것이다. 챗GPT에 입점하는 것과 같은 개념인데, 챗GPT에게 ‘어떤 내용에 대해 궁금한데, 알리에 문서를 업로드하게 해달라’고 하면, GPT가 문서를 올릴 수 있는 링크와 사용 방법을 안내해 준다. 안내를 따라 문서를 올리면 알리가 이를 학습하고 이에 대한 질문을 챗GPT에 하면 대답해 주는 식이다. 플러그인 버전을 개발해서 오픈AI에 신청서를 냈고 지금은 결과를 기다리는 중이다.

챗GPT는 B2C(기업과 소비자 간 거래)이고, 올거나이즈는 B2B로 수익을 내고 있어 챗GPT 플러그인이 수익 사업의 연속이라고 보지는 않는다. 다만 챗GPT는 전 세계 사람들이 집중하는 무대니까 이 무대에 데뷔하는 것만으로 의미가 있다고 본다.”

- Copyright ⓒ 조선비즈 & Chosun.com -