中 딥시크 제친 국내 첫 LLM 개발사…코난, 해외 공략 닻 올린다

[대한민국 대표 AI를 만드는 사람들] <10> 최정주 코난테크놀로지 비전AI연구소 전무

[편집자주] 대한민국이 'AI 3대 강국'을 향한 여정을 시작한다. 한국형 '소버린 AI'를 개발할 5개 정예팀을 비롯해 'K-AI' 타이틀을 달고 세계에서 R&D 개발을 겨룰 핵심 인재, AI 전문가들을 만나 2027년 탄생할 국민 AI의 윤곽을 그려본다.

최정주 비전AI연구소 전무 인터뷰 /사진=김창현 기자 chmt@

"코난테크놀로지는 AI 업계에서 '별걸 다 하는 회사'로 불립니다. 자체 언어모델과 플랫폼, 데이터까지 모두 갖췄고 텍스트·비전·디지털 트윈 등 사업 영역도 다양하기 때문입니다."

최정주 코난테크놀로지 비전AI연구소 전무는 "코난테크놀로지는 AI 모델을 만들기 위한 전 과정을 자체 수행할 수 있는 풀스택 회사"라며 이같이 말했다.

1999년 설립된 코난테크놀로지는 텍스트·비전 AI 기반 소프트웨어 기업으로, 2022년부터는 거대언어모델(LLM) 개발에 집중하고 있다. 국내 최초로 엔비디아 H100 GPU를 도입해 2023년에는 매개변수 131억개의 독자 모델 '코난 LLM'을 공개했다.

최 전무는 "오픈AI의 트랜스포머 아키텍처를 토대로 소형모델을 개발하는 것을 시작으로 코난 LLM은 국내 최초로 자체 개발한 LLM이라는 점에서 의미가 크다"고 설명했다.

━

"범용·추론 통합한 AI 모델…GPU 사용도 절반 수준"

━

올해 3월에는 국내 최초로 범용과 추론 기능을 통합한 'ENT-11'모델을 출시했다. 제미나이 등 기존 AI 모델은 사용자들이 일반 모드와 복잡한 문제를 해결하는 추론 모드를 선택해 사용했다면 ENT-11은 하나의 모델에서 범용과 추론 모드가 동시에 작동한다는 설명이다.

최 전무는 "ENT-11은 일반용 모델과 추론용 모델을 별도로 제공하는 타사보다 그래픽처리장치(GPU) 사용량은 절반 가량 줄여 비용 효율성을 높였다"고 설명했다.

성능도 우수하다. ENT-11의 매개변수는 320억개(32B)로, 초대형 모델 딥시크 R1(671B)보다 20배 이상 작지만 멀티턴 대화, 복잡한 추론 등에서 유사한 성능을 보였다. 코딩 성능은 오히려 딥시크 R1보다 평균 4.75%p 높았다.

코난은 최신 데이터를 반영할 수 있는 검색증강생성(RAG) 솔루션도 내놨다. '코난 RAG-X'는 GS(굿소프트웨어) 인증 1등급을 획득하며 조달청 우선 구매 대상으로 지정됐다. 단순히 과거 데이만 학습하는 게 아니라 기업 내부 문서와 실시간 외부 정보를 연동해 높은 정확도의 답변을 제공한다.

최 전무는 "AI 모델은 과거의 데이터를 학습하지만 정작 이를 도입하는 기업들은 매일 새로운 데이터가 쌓여 정확한 답변을 얻기 어려웠다"며 "코난 RAG-X는 정밀 벡터 검색과 오랜 검색 기술을 기반으로 정확성과 보안성을 동시에 확보했다"고 말했다.

━

국방부부터 병원까지 각종 사업 수주…해외 진출 박차

━

코난은 정부기관과 대기업 등에서 사업도 잇따라 따내고 있다. 최근 코난테크놀로지는 국방향 LLM을 개발하는 사업도 수주했다.

최 전무는 "국방 영역 특성상 보안이 매우 중요한 업무이기 때문에 외부 기업이 사업을 수주하더라도 데이터를 확보하는 데 한계가 있다"며 "물고기가 아니라 물고기 잡는 방법을 알려주는 것처럼 파운데이션 모델과 함께 이를 학습시키고 파인튜닝할 수 있는 소프트웨어 패키지를 공급하는 방식으로 제안해 사업 수주를 할 수 있었다"고 말했다.

실제로 도입한 기관들의 성과도 이어지고 있다. 또 한국남부발전과 함께 개발한 생성형 AI 'KEMI'는 보고서 작성, 고객 응대, 데이터 분석 등 12개 업무를 지원한다. 도입 전 평가에서 평균 91점의 생산성이 확인됐고, 시뮬레이션 결과 문서 작성 시간은 최대 40% 단축됐다.

최 전무는 "향후 LLM 뿐만 아니라 대형행동모델(LAM)으로 개발범위를 확장하고 복잡한 문제 해결과 도메인별 지식 최적화를 지원하는 다중 에이전트 기능을 적용해 산업별 활용도를 넓힐 계획"이라며 "연간 40만대 규모의 공공 조달 시장을 목표로 시장 확장을 본격화할 것"이라고 말했다.

해외 진출도 추진한다. 최 전무는 "동남아시아 시장은 AI에 대한 수요가 있지만 데이터 확보나 자금 면에서 어려운 점이 많다"며 "현지 대학이나 연구소와 함께 기술 개발을 하며 아세안 시장에 적합한 파운데이션 모델을 개발하는 등 해외 진출도 추진할 계획"이라고 말했다.

[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]

남미래 기자 future@mt.co.kr