"한국기업에 가장 잘 맞는 '생성 AI' 제품 선보일 것"

[인터뷰] 스켈터랩스 김도연 최고제품책임자·서종훈 개발총괄

(지디넷코리아=김미정 기자)기업이 생성 인공지능(AI)으로 비즈니스를 하기 시작했다. 해외에선 구글을 비롯한 오픈AI, 마이크로소프트, 메타 등이 생성 AI 제품을 내놨다. 한국에선 네이버를 비롯한 LG AI연구원, 카카오, KT 등이 자체 AI 모델을 출시했다.

스켈터랩스도 그동안 주력했던 기계독해(MRC)와 대화형 AI 기술을 바탕으로 생성 AI 비즈니스에 본격적으로 뛰어들었다. 이 기업은 올해 6월 '벨라'라는 제품 브랜드까지 론칭했다. 앞으로 생성 AI 제품을 출시할 때마다 벨라 브랜드에 추가할 방침이다. 올해 기업용 질의응답 챗봇 '벨라-큐나(QNA)'를 출시한 바 있다.

스켈터랩스 서종훈 개발총괄(왼쪽)과 김도연 최고제품책임자. (사진=스켈터랩스)

스켈터랩스는 한국 고객에 가장 잘 맞는 AI 비즈니스 환경을 조성하겠다는 입장이다. 

올해 10월 스켈터랩스 고객은 '벨라-큐나'를 활용할 수 있다. 스켈터랩스는 해당 고객들에 '벨라-큐나 백오피스' 기능도 제공할 방침이다. 벨라-큐나 백오피스는 개발자 없이도 데이터를 관리하고 챗봇을 만들 수 있는 도구다. 기업 환경에 딱 맞는 생성 AI를 구성할 수 있는 솔루션인 셈이다. 

이 기업은 향후 거대언어모델(LLM)까지 내놓을 예정이다. 보안에 민감한 온프레미스 고객을 위해서다. 스켈터랩스 솔루션은 현재 클라우드형으로 작동한다. 향후 LLM이 출시되면 온프레미스로도 서비스를 제공할 방침이다. 

스켈터랩스 김도연 최고제품책임자(CPO)와 서종훈 개발총괄(Head of engineering)을 만나 제품과 향후 전략에 대해 자세히 들어봤다.

Q. 스켈터랩스는 올해 6월 생성 AI 제품 브랜드 '벨라'를 론칭했다. 앞으로 기업간거래(B2B)에 집중할 방침인가.

=김도연: 그렇다. 벨라는 기업용 생성 AI 제품군을 모아둔 브랜드라고 생각하면 된다.가장 첫 제품은 벨라-큐나다. 챗GPT 기반으로 작동하는 기업용 AI 질의응답 솔루션이다. 그동안 챗GPT는 기업이 쓰기에 한계가 있었다. 실시간 정보 업데이트가 불가했고 환각현상을 보였다. 벨라-큐나는 기업 내부 문서와 실시간 정보를 직원에 바로 제공할 수 있다. 앞으로 지속적인 개발로 벨라 제품군을 더 늘릴 계획이다.

Q. 스켈터랩스가 '벨라큐나 백오피스'를 10월 출시할 예정이라고 알고 있다. 구체적으로 어떤 제품인가.

=김도연: 벨라-큐나 백오피스는 10월 중 고객사에 업데이트 소식을 알릴 예정이다. 기업용 AI 챗봇으로 생각하면 된다. 챗봇 구축 방법도 간단하다. 기업은 사내 문서나 데이터 파일을 솔루션에 첨부하기만 하면 된다. 그럼 벨라-큐나 백오피스가 해당 데이터를 LLM과 연동해 즉시 챗봇 답변에 활용한다.

벨라-큐나 백오피스 화면. (사진=스켈터랩스)

=서종훈: 기존 기업용 AI 챗봇은 시나리오 설계 작업이 필수였다. 해당 설계 작업은 기업 정보에 맞는 최적화된 답을 도출하기 위해 필요한 작업이다. 따라서 챗봇 구축에 드는 시간과 비용이 많이 들었다. 반면 백오피스는 시나리오나 라벨링 작업이 필요 없다. 높아진 사용성으로 기업용 챗봇 진입 장벽이 낮아졌다고 할 수 있다. 기업은 해당 백오피스를 구축해 고객에게 제공할 수도 있다. 예를 들어, 보험회사는 벨라-큐나 백오피스로 고객들에게 보험 약관에 대한 질의응답 챗봇 서비스를 제공할 수 있다.

Q. 현재 여러 기업이 기업용 AI 솔루션을 개발 중이다. 벨라-큐나 백오피스만의 강점은 무엇인가.

=김도연: 기업이 환각 현상과 보안 문제를 피할 수 있다는 점이다. 챗GPT 등 보통 챗봇은 답을 모르면 아는 척하면서 말을 만든다. 스켈터랩스는 이를 최대한 줄였다. 기업 데이터 안에서만 답변할 수 있도록 조정했다.

김도연 CPO는 환각 현상과 보안 문제를 밸라-큐나 백오피스로 해소할 수 있다고 말했다. (사진=스켈터랩스)

예를 들어, 사용자가 기업 문서나 데이터에 없는 내용을 질문하면, 챗봇은 "관련 정보가 없다"고 나온다. 그럼 사용자는 이에 대한 내용을 챗봇에 업데이트하기만 하면 된다. 이는 모든 벨라 제품군에 해당하는 강점이다.

=서종훈: 기업 데이터를 쉽고 유연하게 적용할 수 있다는 점도 강점이다. 기업은 챗봇에 들어갈 데이터를 취사선택할 수 있다. 원하는 데이터를 실시간으로 추가하거나 제거할 수 있다. 이는 챗GPT 등 범용 챗봇과는 차별화된 기능이다. 백오피스의 가장 중요한 특징은 보안 문제에서도 자유롭다는 점이다. 보통 기업이 오픈AI의 GPT 모델을 활용할 때 불안해한다. GPT에 자사 데이터가 들어갈 수 있고, 데이터 유출이 발생할 수 있어서다. 스켈터랩스 솔루션은 기업 데이터를 벨라-큐나 백오피스 밖으로 내보내지 않는다. 주고받는 모든 대화는 암호화된다.

Q. 보안을 신경 썼다는 점이 흥미롭다. 생성 AI 사용을 주저하는 국내 기업을 겨냥했나.

=김도연: 그렇다. 국내 기업은 보안 부분에 여전히 민감하다. 자기 네트워크 밖으로 데이터가 나가는 것을 우려한다. 보안에 민감한 기업은 자체적으로 AI 제품을 온프레미스에서 활용하고 싶어 한다. 클라우드가 활성화된 추세지만, 여전히 온프레미스 선호도는 높다.

서종훈 개발총괄은 스켈터랩스가 자체적으로 LLM을 공개할 것이라고 밝혔다. (사진=스켈터랩스)

=서종훈: 그렇다. 보안 중요하다. 이러한 한국 기업에 발맞춰 자체적으로 보안을 많이 신경 쓸 방침이다. 이를 위해 자체 LLM 출시도 앞뒀다. 고객이 현재 벨라-큐나 백오피스를 클라우드에서만 활용할 수 있지만, LLM이 나오면 해당 솔루션을 온프레미스에서도 활용할 수 있을 것이다.

Q. LLM을 자체 개발하는 대신, 오픈AI의 GPT나 네이버의 클로바X를 활용해도 될 텐데.

=서종훈: 개발 중인 LLM은 경량화 모델이다. 기업 특성에 맞게 파인튜닝 할 수 있다. 국내 기업이 아직 GPT 같은 범용 모델이나 애플리케이션을 마음 놓고 활용하지 않는다. 보안 충돌 없이 생산성을 올리고 싶어 한다. 대다수 기업은 LLM 사용 경험에 서툴기도 하다. 직접 모델을 만들거나 LLM을 연동한 애플리케이션 만드는 노하우도 부족하다. 예상치 못한 비용이나 위험이 발생할 수 있다. 자기 기업에 꼭 맞는 LLM을 찾는 이유다.   

스켈터랩스 서종훈 개발총괄(왼쪽)과 김도연 최고제품책임자가 질문에 답변 중이다. (사진=스켈터랩스)

=김도연: 빅테크 LLM은 국내 기업 니즈를 완전히 충족할 순 없다고 본다. 빅테크는 범용 AI 모델을 개발했다. 말 그대로 일반적인 AI다. 기업은 범용 AI 모델까지 필요하지 않다. 기업 챗봇이 모든 지식을 알 필요가 없다. 기업 지식만 잘 알면 된다. 경량화 모델이 필요한 이유다.

Q. 자체 개발한 LLM과 벨라 제품을 통합해 서비스를 제공할 계획인가.

=김도연: 그렇다. 벨라 제품에 자체 LLM과 기업 데이터를 온프레미스 형태로 융합할 생각이다. 스켈터랩스 LLM이 나오면, 고객은 자사 데이터와 스켈터랩스 LLM 결합만으로 서비스를 운영할 수 있다. 기업 네트워크 안에서만 생성 AI를 이용할 수 있는 셈이다. 보안에 민감한 기업이 마음 놓고 AI를 활용할 수 있도록 하기 위한 목적이다.

금융과 이커머스 기업이 벨라-큐나 백오피스 첫 고객사다. (사진=스켈터랩스)

Q. 백오피스 고객사는 주로 어떤 기업인가.

=김도연: 금융과 이커머스 기업이 첫 고객사일 것이다. 현재 해당 기업들과 많은 이야기를 하는 중이다. 그러다 보니 보안 관련 요구 사항에 초점 맞췄다. 스켈터랩스는 백오피스 출시를 앞두고 상당히 분주하다. 이중 보안만큼은 완벽히 구현하려고 노력 중이다.

Q. 벨라큐앤에이 백오피스 출시 후 기대하는 부분은.

=김도연: 실질적인 AI 성공 사례를 만들고 싶다. 막연히 LLM과 제품을 만드는 것이 아니다. 가시적인 비즈니스 성과까지 만들어야 한다고 본다. 그래야 AI 기술이 의미 있다고 생각한다. 그리고 사용자들이 솔루션으로 생활에 큰 편리함을 느낄 수 있도록 만들고 싶다.

김미정 기자(notyetkim@zdnet.co.kr)