AI가 보고서 초안 만들어준다…코난테크놀로지, 자체 LLM 공개

'SK텔레콤 AI 전략적 제휴' AI전문기업…B2C 특화 LLM
보고서 초안생성부터 문서첨삭까지…"기업 능률 높인다"

17일 서울 여의도 콘래트호텔에서 열린 기자간담회에서 코난테크놀로지 관계자들이 코난 LLM을 소개하고 있다. (사진=코난테크놀로지)

[이데일리 한광범 기자] SK텔레콤(017670)과의 협업으로 주목을 받고 있는 인공지능(AI) 소프트웨어 전문기업 코난테크놀로지가 17일 자체 개발 대규모 언어모델 ‘코난 LLM’을 공개했다. 보고서 특화모델을 표방한 코난 LLM을 통해 기업시장(B2B)과 정부시장(B2G)을 공략하겠다는 계획이다.

코난테크놀로지는 이날 서울 여의도 콘래드호텔에서 기자간담회를 열고 새롭게 출시 예정인 코난 LLM으로 B2B 시장을 공략하겠다고 밝혔다. 이날 코난 LLM은 전체 토큰 4920억개, 한국어 토큰 2840억개를 학습했다. 코난테크놀로지는 올해 11월 내놓을 모델에는 전체 학습 토큰이 7000억개, 한국어 토큰이 3220억개가 쓰일 예정이라고 했다. 매개변수(파라미터)는 각각 131억개, 410억개 버전으로 제공된다.

코난테크놀로지는 매개변수 규모를 줄이고 학습 토큰은 늘려 합리적 비용으로 최적의 성능을 제공하겠다는 계획이다. 코난테크놀로지는 2007년부터 국내외 데이터를 실시간 수집·분석해 온 온라인 미디어 심화 분석 서비스 ‘펄스케이’(PulseK)를 통해 약 205억개 문서를 자체 확보, 이중 트위터나 뉴스 댓글 등 단문을 제외한 20억건을 학습에 사용했다.

코난 LLM은 한국어 특성에 기반한 구조로 답변 성능이 매우 뛰어나고 보고서 초안 생성에 특화된 B2B, B2G LLM을 표방한다. 구체적으로 문서를 다루는 모든 기업의 △문서 초안 생성 △문서 요약 △질의응답을 지원한다. 코난테크놀로지는 코난 LLM이 각종 문서, 보고서, 보도자료 등의 초안을 빠르고 손쉽게 생성해주는 데 최적화됐다고 강조했다.

간단한 프롬프트만으로 4000자 분량의 문서를 만들어내고, 문서생성 중 추가적인 질의, 첨삭 및 참고자료 생성도 동시에 수행해 문서 작성에 할애되는 시간과 비용을 절감시키고 작업 생산성을 향상시킬 수 있다는 설명이다. 기업 전용 LLM을 온프레미스(소프트웨어를 서버에 직접 설치해 쓰는 방식)로 제공해 기업 내부 데이터 유출을 막겠단 전략이다. 라이선스 또는 연간 구독모델로 판매 예정이다.

임완택 코난테크놀로지 전략기획본부장은 “코난 LLM은 기본적으로 문서생성 등에 최적화된 LLM이기 때문에, 만약 회사에서 그 용도로만 사용하겠다고 하면 파인튜닝이 따로 필요하지 않다. 때문에 비용이 굉장히 많이 절감될 것”이라고 부연했다.

코난테크놀로지 측은 2대 주주이자 AI 분야 업무협약 상대인 SK텔레콤의 AI서비스 ‘에이닷’과 코난 LLM 협업 가능성에 대해선 구체적인 답변을 하지 않았다.

임 본부장은 “에이닷은 B2C 서비스고, 코난 LLM은 B2B 서비스로서 B2B에 특화됐다”며 “SK텔레콤과는 지난해 10월 AI 관련 전략적 협업 MOU를 체결했고 성과를 내기 위해 지속적으로 이야기하고 있는 정도”라고 밝혔다.

한광범 (totoro@edaily.co.kr)