챗봇을 넘어 AI 에이전트 역할…38개 고객사에 맞춤서비스 제공

서종훈 스켈터랩스 CTO

"기업들이 서버에 직접 소유할 수 있는 70억파라미터 규모의 대규모언어모델(LLM)을 개발하고 있습니다."

스켈터랩스(대표 조원규)는 국내 대표 인공지능(AI) 기업으로 꼽힌다. 2015년 창업 이래 AI가 문장을 얼마나 제대로 이해할 수 있는지 겨루는 한국어기계독해평가(KorQuAD) 분야에서 여러 차례 1위를 차지한 데다 현재는 LLM 기반 챗봇 등을 개발해 기업에 공급하고 있다.

스켈터랩스는 어떤 미래를 준비할까. 매일경제신문이 서울 성수동 스켈터랩스 본사에서 서종훈 최고기술책임자(CTO)를 만났다. 그는 현재 개발 중인 LLM에 대해 "AI가 발전하면서 수많은 기업의 AI 접근성이 좋아지고 있다"며 "이제는 단순 챗봇보다 LLM 기반 챗봇으로의 이동이 뚜렷해지고 있다"고 설명했다. 그러면서 그는 현재 집중하는 분야에 대해 "정확한 답을 찾아서 알려주는 검색 증강 생성(RAG)과 LLM 개발"이라고 강조했다.

검색 증강 생성은 LLM의 고질적인 병인 '환각'을 낮추는 역할을 한다. 또 자체 LLM 개발은 기업이 원하는 온프레미스(On-premise)용 AI를 구축하기 위한 것이다. 일부 기업은 AI를 클라우드에서 호출해 사용하는 데 불편함을 못 느끼지만, 또 다른 일부 기업은 보안을 위해 값은 좀 비싸더라도 자체 서버에 AI를 보관하고 싶어 한다. 이런 기업을 위해 필요한 것이 온프레미스용 AI다

서 CTO는 "스켈터랩스는 국내 기업을 위해 폐쇄망 환경에 맞춘 온프레미스 기반의 자율형 AI 에이전트를 개발하고 있다"면서 "확장성·책임성·투명성을 강화하고, 다양한 도구를 빠르게 통합해 기업과 개인 사용자 요구에 맞는 솔루션을 제공하는 데 주력하고 있다"고 말했다.

스켈터랩스는 다양한 기술과 솔루션을 보유하고 있다. LLM과 기업 데이터를 넘나들며 동작하는 검색 증강 생성 솔루션 벨라(BELLA) QNA, 기업이 주로 사용하는 다양한 도구들을 자유롭게 연동시킬 수 있는 과업 수행 챗봇 솔루션인 벨라 에이전트(Agent)가 대표적이다. 여기에 더해 LLM 기반 노코드 챗봇 빌더인 에이아이큐플러스 챗(AIQ+ Chat), 마치 사람이 응대하는 것처럼 음성 인식(Speech-to-Text·STT)과 음성 합성(Text-to-Speech·TTS) 기능을 제공하는 에이아이큐플러스 스피치(AIQ+ Speech), 질문자 의도를 정확히 파악하는 기계 독해 기반 솔루션인 에이아이큐플러스 앤서(AIQ+ Answer)도 있다.

이런 기술 개발을 위해 서 CTO 휘하에는 음성 인식 및 음성 합성 기술을 개발하는 스피치팀, LLM과 RAG 시스템을 개발하는 자연어처리(NLP)팀이 활동하고 있다.

그는 향후 AI가 사람의 대리인인 에이전트로 진화할 것으로 내다봤다. 서 CTO는 "AI 에이전트는 단순한 질의응답 시스템에 그쳐서는 안 된다"면서 "사용자가 요구한 과업을 수행하기 위해 활용할 수 있는 여러 도구와 연쇄적인 상호작용을 할 수 있어야 하고, 이를 토대로 자율적으로 업무를 수행할 수 있어야 한다"고 강조했다. 이어 그는 향후 AI 개발 방향에 대해 "스켈터랩스 또한 기업의 사용 목적에 더욱 최적화된 자율 AI 에이전트를 구축하고, 단순히 정보를 제공하는 것에서 더 나아가 자율적으로 업무를 수행하고 결과물을 제공할 수 있도록 노력하고 있다"고 말했다.

그는 향후 AI가 기술적 특이점을 맞이할 것이냐는 질문에 "AI는 점점 더 복잡한 문제를 해결하고, 인간의 일상생활과 산업 전반에 깊숙이 통합될 것으로 예상된다"며 "이러한 발전이 이루어진다면, 10년 내에도 가능하다"고 설명했다. 또 AI 발전을 위해서는 그래픽처리장치(GPU)와 같은 컴퓨팅 파워뿐 아니라 AI를 학습시킬 대용량 데이터 역시 동시에 필요할 것으로 내다봤다. 현재 스켈터랩스의 고객사는 대한민국에서 손꼽히는 대기업을 포함해 38개사가 넘는다.

서 CTO는 연세대 컴퓨터과학과를 졸업하고 동 대학원에서 박사 학위를 받았다. 이후 LG전자 내 CTO 산하 AI연구소에서 '운전자 졸음 감지' AI 개발을 주도했다. 이후 스켈터랩스에서 엔지니어로 입사해 현재 CTO까지 올랐다. [이상덕 기자 / 원호섭 기자]