[TAS 2023] 이창수 올거나이즈 대표 “AI 언어모델, 양보다 질이 중요… 기업에는 소형언어모델이 효과적”

김민국 기자 2023. 11. 16. 11:38
자동요약 기사 제목과 주요 문장을 기반으로 자동요약한 결과입니다.
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.

"모든 기업이 대규모언어모델(LLM)을 필요로 하는 것은 아닙니다. 인공지능(AI) 언어모델 학습 데이터는 '양보다는 질'이 중요합니다. 특정 분야에 대한 데이터만 압축적으로 학습 시킨 소형언어모델(sLLM)이 업무 수행에 더 유리하게 작용할 수 있습니다."

이 대표는 데이터를 경량화한 sLLM이 오히려 효과적일 수 있다고 말했다 . 이 대표는 "금융 기업은 금융에 관련된 데이터를 위주로 배운 챗봇을 활용해야 업무 효율성을 높일 수 있다"라며 "실제로 올거나이즈가 제작한 특화형 AI 언어모델 '알리 파이낸스'는 금융 분야에 한해서는 챗GPT보다 더 나은 성능을 보이기도 했다"고 말했다.

음성재생 설정
번역beta Translated by kaka i
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.

“LLM, 학습데이터 너무 많은 탓에 원하는 답변 한번에 들을 수 없어”
이창수 올거나이즈 대표가 16일 오전 서울 중구 동대문디자인플라자 아트홀에서 열린 ‘TAS 2023-제1회 서울 인공지능 박람회'에서 발표하고 있다. /김민국 기자

“모든 기업이 대규모언어모델(LLM)을 필요로 하는 것은 아닙니다. 인공지능(AI) 언어모델 학습 데이터는 ‘양보다는 질’이 중요합니다. 특정 분야에 대한 데이터만 압축적으로 학습 시킨 소형언어모델(sLLM)이 업무 수행에 더 유리하게 작용할 수 있습니다.”

이창수 올거나이즈 대표는 16일 오전 서울 중구 동대문디자인플라자 아트홀에서 열린 ‘TAS 2023-제1회 서울 인공지능 박람회(이하 TAS 2023)’ 강연자로 참석해 이같이 말했다.

‘인간을 더 인간답게 만드는 AI’라는 주제로 열리는 ‘TAS 2023′은 일반 대중이 인공지능(AI) 기술을 접하고 체험하며 알아볼 수 있는 AI 전문 전시회다. 이번 행사는 일상과 산업에 적용된 국내외 AI 기술을 알려 기술 도입 희망 기업이나 일반 대중에 AI를 보다 쉽게 알 수 있게 하기 위해 마련됐다. 조선미디어그룹이 설립한 AI 전문지 ‘더에이아이(THE AI)’와 스마트미디어그룹 ‘첨단’이 공동 주최하고, 디지틀조선일보, 국제인공지능&윤리협회(IAAE)가 후원했다.

올거나이즈는 2017년 설립된 스타트업이다. 올거나이즈는 거대언어모델 기반의 생성형 AI 인지검색 솔루션을 통해 업무 생산성 혁신을 지원하는 다양한 AI 애플리케이션(앱)·솔루션을 보유하고 있다. 기업 문서를 빠르게 분석하고 요약해 제공하는 솔루션 등을 지원한다. 현재 미국, 일본, 한국에서 200여곳 이상의 고객사에게 서비스를 제공하고 있다.

이창수 대표는 “LTV라는 단어를 챗봇에 입력하면 고객평생가치(Lifetime Value) 주택담보대출비율(Loan To Value Ratio) 두 가지 의미의 단어가 나온다”라며 “주택담보대출비율에 대한 답변을 들으려면 ‘금융 전문가처럼 말해줘’라는 명령을 부가적으로 또 해야 한다”고 말했다.

이 대표는 LLM의 학습데이터가 너무 많은 탓에 원하는 답변을 한 번에 들을 수 없다는 점을 한계로 꼽았다. 그는 “LLM은 대규모 데이터를 한번에 학습시키고 질문 흐름에 맞는 대답만 하게끔 만든 장치”라며 “특정 분야에 속해 있는 기업이 LLM을 이용하면 오히려 업무 생산성이 저해될 가능성도 있다”라고 덧붙였다.

이 대표는 데이터를 경량화한 sLLM이 오히려 효과적일 수 있다고 말했다 . 이 대표는 “금융 기업은 금융에 관련된 데이터를 위주로 배운 챗봇을 활용해야 업무 효율성을 높일 수 있다”라며 “실제로 올거나이즈가 제작한 특화형 AI 언어모델 ‘알리 파이낸스’는 금융 분야에 한해서는 챗GPT보다 더 나은 성능을 보이기도 했다”고 말했다.

이 대표는 “기업 관계자들이 AI 챗봇으로 어떤 업무를 수행하고 싶은지부터 정하고, 업무 영역에 특화돼있는 언어모델을 개발하는 것이 중요하다”고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -

Copyright © 조선비즈. 무단전재 및 재배포 금지.

이 기사에 대해 어떻게 생각하시나요?