"생성AI가 사내 데이터 찾아 답한다", LG CNS 'KM혁신' 서비스 개시

생성형 AI(인공지능)을 통해 회사 내 데이터를 검색해 대화형으로 답변을 받아내는 서비스가 개시됐다.

LG CNS(엘지씨엔에스)는 24일 생성형 AI로 기업 내부의 유용한 지식과 데이터를 찾는 'AI를 활용한 KM(지식관리)' 서비스를 개시했다며 이같이 밝혔다.

'AI를 활용한 KM 혁신'은 사내 임직원들이 업무에 필요한 지식을 찾기 위해 채팅 창에 자연어로 질의하면, 생성형 AI가 사내 데이터를 분석해 최적의 답변을 제공하는 서비스다. 사람이 정해 놓은 시나리오 기준으로 답변하는 기존 AI 챗봇과는 다르게, 방대한 데이터를 통해 AI가 직접 답변을 생성할 수 있도록 고도화됐다.

임직원들은 업무 진행 과정에서 궁금한 점이 생겼을 때, 담당자를 찾거나 여러 사내 시스템을 일일이 확인해야 하는 번거로움을 덜고, 생성형 AI 검색으로 수 초 내에 답변을 얻을 수 있다.

LG CNS는 마이크로소프트와 협력을 통해 'AI를 활용한 KM 혁신' 서비스에 '애저 오픈AI(Azure OpenAI)'의 GPT-4를 적용했다. 챗GPT는 포털 등 외부에 공개된 데이터만 학습한 LLM(거대언어모델)이다. 'AI를 활용한 KM 혁신'에 적용된 챗GPT는 기업 내부 데이터 기반의 답변을 생성한다는 것이 차별점이다.

임직원들은 "우리회사 프로젝트 중에서 생성형 AI를 활용한 성공 사례 3개만 찾아줘", "스마트팩토리 분야의 신기술 연구개발 현황 보고서 10줄로 요약해줘" 등의 질문에 AI로부터 답변 받을 수 있다. 답변과 함께 출처와 답변 내용이 포함된 문서 전체를 받는 것도 가능하다. 만약 사내 데이터에 답변할 내용이 존재하지 않을 경우, 챗GPT는 외부 지식을 활용한 답변도 제공한다.

LG CNS는 기업 내부 데이터 분석을 위해 자체 기술 '오케스트레이터'를 사용한다. '오케스트레이터'는 임직원 질의에 대한 답변과 유사도가 높은 톱5 자료, 페이지 등을 찾아내 챗GPT에 제공한다. 이후 챗GPT가 자료를 분석해 답변을 제공하는 방식이다. '오케스트레이터'는 내부 데이터 중에 보안사항은 비식별화 하는 등 보안 정보의 외부 유출을 방지하는 기능을 탑재했다.

LG CNS 임직원들은 사내 오픈된 'AI를 활용한 KM 혁신' 서비스를 통해 AI, 데이터, 클라우드, 스마트 시티, 스마트 물류, 스마트 팩토리, 보안 등 DX 신기술 분야 각종 지식과, 사업 방법론, 연구개발 산출물, 기술 노하우 등이 포함된 약 52만 페이지 분량의 데이터에서 필요한 지식을 찾아 활용하고 있다.

LG CNS는 'AI를 활용한 KM 혁신' 서비스 구현에 앞서 곳곳에 흩어진 사내의 다양한 지식 데이터를 한 곳에 모았다. 이는 각종 산출물이 한 번 업로드 된 후 방치되거나, 조직 내 전문가들의 역량 대부분이 조직 자산으로 이어지지 못한 채 소멸되는 등의 페인 포인트(고충사항)를 해결하기 위함이다.

생성형 AI가 정확도 높은 답변을 내놓기 위해서는 사내에 지식 데이터를 풍성하게 축적하는 것도 중요하다. LG CNS는 신규 지식 데이터 축적과 조직 내 전문가들의 지식과 경험을 임직원 모두가 활용할 수 있도록 웹3.0 기반의 지식마켓 '브레인즈(BRAINS)'도 구축했다.

김선정 LG CNS CTO(최고기술책임자) 전무는 "생성형 AI, 웹3.0 등 LG CNS의 DX 신기술 역량을 통해 기업 내부에 보유한 자산을 기반으로 필요한 지식을 빠르게 활용할 수 있는 체계를 확장해 나갈 것"이라고 했다.

황국상 기자 gshwang@mt.co.kr