"챗GPT로 업무 효율 극대화" 맞춤식 AI 원하는 기업 확산

기밀 유출·환각 등 우려 없는
특화모델 솔루션 개발 한창

업무 효율성 제고를 위해 챗GPT를 비롯한 생성형 인공지능(AI)을 사내에 도입하려는 기업이 늘고 있다. 오픈AI가 입력된 데이터를 모델 학습에 활용하지 않는 기업용 챗GPT를 출시한 가운데 기밀 유출, 과도한 비용, 업무 오류 등을 우려하는 기업 고객을 위해 맞춤형 AI를 구축해주는 사업이 정보기술(IT) 서비스 업계의 새로운 먹거리로 부상하고 있다. 기업 내부의 지식·정보를 별도로 학습해 이를 바탕으로 정확한 답변을 신속하게 제공하는 AI를 개발해주는 식이다.

SK(주) C&C는 최근 업무에 생성형 AI를 접목하려는 기업 고객을 위해 종합 서비스를 제공하겠다고 발표했다.

기업 고객이 생성형 AI 도입을 주저하는 이유 중 하나로 '환각(hallucination)' 현상이 꼽힌다. 기존에 학습된 데이터만 참고해 확률적으로 가장 그럴듯한 문장을 생성하는 구조여서 잘못된 정보를 마치 사실인 것처럼 풀어내는 일이 발생하고 있다.

이에 SK(주) C&C는 기업 고객이 자체 보유한 지식·정보를 생성형 AI 활용에 적합하도록 자산화하는 프로세스를 서비스에 포함시켰다. 이와 관련된 우리은행 프로젝트도 수행하고 있다.

아울러 SK(주) C&C는 기업 고객 업무에 특화된 프롬프트(명령어) 지식을 체계적으로 관리할 수 있도록 지원한다는 구상이다. 영역별로 특화된 최적의 프롬프트를 일종의 기업 노하우로 저장하고 공유할 수 있는 형태다. 대화형 질의로 임직원 누구든 원하는 최적의 답변을 간편하게 얻을 수 있도록 지원하기 위함이다.

LG CNS는 최근 마이크로소프트(MS)와 손잡고 국내 모 시중은행 금융 서비스에 특화된 챗GPT(챗봇) 접목을 위한 기술검증(PoC)에 돌입했다.

일차적으로 투자 상품 상담 영역에서 활용할 수 있도록 준비하고 있다. 복잡한 표 형태의 펀드 상품 약관 정보 가운데 핵심 내용을 발췌해 챗GPT에 학습시키고 발화하게 하는 식이다.

기밀 유출 피해가 발생하지 않도록 직원이 고객 이름이나 생년월일, 자산 규모 등 민감 정보를 입력하면 시스템이 사전에 이를 감지하고 차단하게끔 설계하고 있다.

LG CNS는 챗GPT를 활용하면 은행 직원이 수백 개가 넘는 투자 상품을 익히기 위해 수만 페이지에 달하는 설명을 속속들이 외우지 않아도 효율적으로 고객 상담 업무를 진행할 수 있을 것으로 기대하고 있다.

가령 고객이 배터리 관련 펀드 상품을 문의할 경우 상담 직원이 일일이 검색하지 않아도 챗GPT가 알아서 최적의 상품을 찾은 뒤 직원이 고객에게 핵심 내용을 쉽게 설명할 수 있도록 일목요연하게 정리해서 알려주는 식이다.

LG CNS는 기업 자체 내부 서버를 활용해 당장 생성형 AI를 업무에 도입하고자 하는 기업 고객을 위해 LG AI연구원의 초거대 AI '엑사원'을 활용한 사업도 추진하고 있다. 지난해부터는 엑사원을 기반으로 AI 컨택센터를 구축하는 프로젝트를 진행하고 있다. LG CNS 관계자는 "금융권뿐만 아니라 서비스·유통업계도 생성형 AI 도입에 큰 관심을 보이고 있다"고 전했다.

이 같은 분위기는 당초 각종 보안 우려로 기업들이 개방된 생성형 AI 서비스 사용을 사내에서 금지하던 것과 대조적이다. 실제로 시장조사기관 IDC가 이달 초 발표한 '생성형 AI 도입·적용 동향' 보고서에 따르면 아시아·태평양 지역 조직 중 32%가 생성형 AI 기술에 적극 투자할 것이라고 답한 것으로 나타났다.

아시아·태평양 지역 조직 중 38%는 생성형 AI 적용을 위해 다양한 사례를 참고할 것이라고 응답했다. IDC에 따르면 특히 기업은 방대한 기업 내부 문서를 검색하는 지식관리(KM), 코드 생성, 마케팅·디자인 애플리케이션(앱)에 생성형 AI를 도입하려는 수요가 큰 것으로 파악됐다.

[우수민 기자]