생성형 언어모델 '고니' 새 버전 공개…로직코 '이정표' 세워

박희범 기자 2024. 7. 31. 10:31
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

과학기술에 특화된 생성형 언어 모델 '고니'(KONI)의 업그레이드 버전 2종이 공개됐다.

한국과학기술정보연구원( KISTI)은 과학기술 분야 추론과 글쓰기, 이해 등 다양한 작업에서 성능을 크게 향상 시킨 새 버전 2종을 지난 30일 공개 사이트 허깅 페이스와 KISTI 에이아이다((https://aida.kisti.re.kr)에 오픈했다고 31일 밝혔다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

KISTI, 80억 개 LLM으로 700억 개 파라미터 모델 성능 첫 달성

(지디넷코리아=박희범 기자)과학기술에 특화된 생성형 언어 모델 '고니'(KONI)의 업그레이드 버전 2종이 공개됐다.

한국과학기술정보연구원( KISTI)은 과학기술 분야 추론과 글쓰기, 이해 등 다양한 작업에서 성능을 크게 향상 시킨 새 버전 2종을 지난 30일 공개 사이트 허깅 페이스와 KISTI 에이아이다((https://aida.kisti.re.kr)에 오픈했다고 31일 밝혔다.

KISTI는 지난해 12월 '고니'를 처음 공개했다. 이번 새 버전은 누구나 다운로드해 활용할 수 있다.

KISTI 초거대AI연구단. 아랫줄 가운데가 이경하 단장이다.

이번에 공개한 새 버전은 사전학습 LLM인 고니-라마3-8B와 대화형에 특화시킨 챗 모델인 고니-라마3-8B-인스트럭트 2 가지다.

이들 2개 모델은 기존 대비 2배 이상(한국어+영어 200GB)의 과학기술정보를 포함하는 데이터를 활용해 학습했다. 모델명에서 8B는 80억 개의 파라미터를 갖는 모델이라는 의미다.

이경하 초거대AI연구단장은 "한국어 LLM에 대한 종합적인 사고력을 측정하는 로직코(LogicKor) 벤치마크 리더보드에서 동일 크기 LLM 중 1위를 달성했다"고 설명했다.

새로운 이정표도 세웠다. '고니'LLM이 700억 개 이하 LLM 중 처음으로 로직코 점수가 8.21를 기록했다. 지금까지 로직코 점수가 LLM 700억 개 이하에서는 8.0점을 넘은 사례가 없다.

10여 명의 연구팀은 이번 업그레이드 버전을 연구하는 과정에서 KISTI가 보유한 검색 증강 생성 기술(RAG)을 '고니'와 연계시켜 신뢰성이 향상된 질의응답 시스템을 개발했다.

연구팀은 "'고니'의 성능 향상을 위해 과학기술 관련 법령, 규정, 지침을 대상으로 KISTI 내부에서 성능 검증을 통해 연구원들의 다양한 피드백을 수집, 추가 학습했다"고 덧붙였다.

이경하 단장은 "'고니'의 새로운 버전을 주기적으로 공개할 예정"이라며 "향후 국방, 전력, 정책 등 여러 공공기관의 수요를 반영한 도메인 특화 LLM 또한 개발, 보급할 계획"이라고 말했다.

KISTI는 향후 연구자의 과학적 발견을 지원할 에이전트(Agent)체계인 '고니' 기반 자율 연구자 AI를 구축할 계획이다.

생성형언어모델 '고니' 심볼.

박희범 기자(hbpark@zdnet.co.kr)

Copyright © 지디넷코리아. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?