기업 내부 문서로 생성AI 구현 돕는 '유레카챗'
생성AI로 구현하는 기업 내부 지식 기반이 목표
최근 LLM(Large Language Model)에 기반한 생성AI가 다양한 분야에서 두각을 드러내고 있다. 무엇보다 텍스트의 의미를 정확하게 분석해, 사용자가 질문을 던지면 의도를 파악해서 관련된 답안을 요약하여 대답해 검색 결과를 나열하는 방식의 기존 검색을 넘어선 패러다임의 전환을 가져오고 있기 때문이다.
미국을 비롯한 전세계의 수많은 기업, 그리고 한국에서도 최근 LLM을 여러 기업들이 개발, 발표하고 있으며, 일반적인 범용 모델 뿐만 아니라 다양한 업무나 적용 분야에 특화된 언어 모델들도 속속 등장하고 있다.
하지만 LLM을 기업 업무에 그대로 적용할 경우에는 GPU나 NPU로 구성된 컴퓨팅 인프라를 구축하고, 기업 내부 데이터를 활용한 파인 튜닝 과정을 거쳐야 함은 물론, 제대로 튜닝됐는지 검토하는 동시에 환각 현상을 방지하기 위한 여러 가지 방어책을 마련할 필요가 있다. 따라서 인프라 구축 비용과 데이터 정제 비용, 검수 인원, 모델 서빙 비용 등 엄청난 규모의 자본 투자가 필요하며, 실시간 성격이 강한 데이터를 지속적으로 현행화하는 과정에서도 많은 어려움을 겪게 된다.
정보접근 시간 단축하고 이해도 향상
레인보우브레인의 유레카챗(EurekaChat)은 기업 내에 보유하고 있는 정형, 비정형 데이터를 이용해 자동으로 LLM이 이해할 수 있는 데이터베이스를 구축하고, 사용자의 자연어 질의를 받아 가장 연관이 높은 문서의 해당 부분을 찾아서 생성AI로 요약해서 보여주는 솔루션이다.
이 솔루션은 클라우드는 물론이고 온프레미스 환경에서도 운용할 수 있어, 기업 외부로 데이터가 유출되는 미연에 방지할 수 있다. 따라서 보안이 중요한 문서에 대해서도 안전하게 적용할 수 있으며, 부서별 멀티테넌시를 제공하기 때문에 답변에 포함될 문서 범위를 접근이 가능한 직원으로 제한할 수도 있다.
'유레카챗'은 전통적인 검색 엔진 알고리즘을 대신해 사용자 질문과 문서의 유사도를 파악해 가장 관련이 있는 내용을 가져오기 때문에 문맥과 의미를 고려한 검색이 가능하다. 또한 일반적인 검색과는 달리 정보가 들어있는 문서의 목록을 제공하는 대신 생성 AI 기술을 활용해 찾아낸 문서 내용을 요약해서 일목요연하게 보여주므로 정보 접근 시간을 대폭 단축하고 결과의 이해도를 높일 수 있다.
'유레카챗'은 일반 텍스트는 물론이고 PDF를 비롯한 마이크로소프트 오피스 문서와 HTML까지 지원하기 때문에, 기업 내부의 다양한 문서를 빠르고 정확하게 처리할 수 있도록 도와준다. 또한 사용자의 질문에 해당하는 답변을 제시할 때 답변의 근거로 찾아낸 문서의 위치를 정확하게 표시해주므로, 사용자는 대답의 근거를 확인하기 위해 별도로 해당 문서를 열어서 검색할 필요 없이 답변을 받는 즉시 출처를 확인할 수 있다. 이렇게 기업이 보유한 문서 내부에 포함된 지식만을 대상으로 답변을 만들어내므로 생성AI의 취약점인 환각 현상을 방지할 수 있는 동시에 출처까지 확인할 수 있어 답변의 신뢰도를 높일 수 있다.
RPA와 결합해 진정한 하이퍼오토메이션으로 진화시킬 것
'유레카챗'은 기업내 문서로 지식을 축적하고 전달하는 금융/보험업, 법률업, 제조업 등 전문 지식을 다루는 분야에 적합하며, 내부 직원이 서로 공유할 수 있는 지식 기반(Knowledge Base)으로 기존의 DMS(Document Management System)나 KMS(Knowledge Management System)의 검색 기능을 생성AI를 적용해 지능화함으로써 업무 생산성을 높일 수 있을 것으로 기대하고 있다.
레인보우브레인은 '유레카챗'을 중심으로 LLM 생태계를 활용하면서 기업 내부의 지식 기반을 구축하는 것을 목표로 다양한 업종에 맞는 최적화된 솔루션을 제공하고 있다. 또한 유레카챗을 오토메이션애니웨어(Automation Anywhere)의 RPA 솔루션과 결합해 진정한 의미에서 하이퍼오토메이션이 가능하도록 지능을 부여하는 기업 내의 브레인으로 발전시키고 있다.
전자신문인터넷 유은정 기자 judy6956@etnews.com
Copyright © 전자신문. 무단전재 및 재배포 금지.
- [애플 이벤트 2023]아이폰15·애플워치9 가격 동결
- 데이터센터 전력급증...2032년 42배 경고음
- 삼성SDS, 생성 AI 기반 솔루션·플랫폼으로 '초자동화' 혁신 이끈다
- [WSCE 2023]“사람 중심 도시 인프라 조성에 기여한 첨단 우수 사례 많아”
- 커리어 플랫폼, 구직자 실시간 소통 기능 도입…양방향 평가 부상
- QR 찍어 선물 보내고 차례상도 대신 차려준다…달라진 명절 선물 풍속
- [애플 이벤트 2023] 애플, AI성능·소재 강화한 아이폰15 시리즈 출시
- [애플 이벤트 2023] 아이폰15 프로, 4가지 티타늄 색상 출시
- [애플 이벤트 2023] 아이폰15프로, 티타늄 소재 적용
- [RAPA DX캠퍼스 개소]카카오·AWS 클라우드 등 다수 첨단 DX교육 운영…선도기업과 협력, 맞춤형 교