SK C&C, 기업 맞춤형 생성형 AI 서비스 13종 라인업 구축

생성형 AI 오케스트레이션 플랫폼과 국내외 멀티 LLM 연계
생성형 AI 챗봇 '마이챗' 기본 탑재

[아이뉴스24 박진영 기자] SK C&C는 멀티 거대언어모델(LLM)과 연계해 기업에서 즉시 사용 가능한 맞춤형 생성형 AI 서비스 13종을 내놨다고 6일 밝혔다.

SK C&C는 멀티 거대언어모델(LLM)과 연계해 기업에서 즉시 사용 가능한 맞춤형 생성형 AI 서비스 13종을 내놨다. [사진=SK C&C]

생성형 인공지능(AI) 서비스 13종은 AI 챗팅∙코딩∙보고서 제작 등 일반 범용 AI 서비스 3종을 비롯해 인사∙재무·회계∙법무∙규제준수(Compliance)∙구매·물류∙생산관리∙연구개발(R&D)∙IT개발∙마케팅∙고객관리 등 직무 영역별 전문 AI 서비스로 구성됐다.

이들 서비스는 SK C&C가 AI 프롬프트, 사내 데이터 저장소, AI 오케스트레이터(Orchestrator)로 구성된 AI 오케스트레이션(Orchestration) 플랫폼과 국내외 LLM, 그리고 금융∙제조 분야에서 수요가 많은 sLLM(경량화 거대언어모델)을 연계해 개발됐다.

특히 SK C&C는 생성형 AI 오케스트레이션 플랫폼에 AI 채팅 서비스인 ‘마이챗(MY CHAT)’을 기본 서비스로 탑재해 일반 사무 활용도를 높였다.

마이챗을 설치하면 사내 데스크톱 가상화(VDI) 업무 환경에서도 완벽한 보안 상태를 유지하며 국내외 LLM을 사용할 수 있다.

마이챗을 활용해 기업 재무 정보, 시장 동향 등을 물어보거나 보고서 작성, 문서 요약, 외국어 번역 등의 업무를 맡길 수도 있고, 각종 업무 시스템 연계해 사내 지식 검색∙상담 창구로도 역할 확대가 가능하다.

실제 마이챗의 핵심인 오케스트레이션 기술은 작년에 구축 완료한 '우리은행 AI 지식상담 서비스'에 적용됐다. 이외에도 SK주식회사, SK네트웍스, SKC, SK쉴더스 등 관계사에서 사용 중이며, 사내 헬프 데스크로 활용 범위를 확대할 예정이다.

직무별 전문 AI 서비스는 실제 산업 적용 사례를 기본 모델로 개발했다.

SK C&C는 제조 장비∙설비 이상 징후를 탐지하고 장애 대응한 사례 외에도, 대내외 데이터를 활용한 고객 상담 FAQ(자주 묻는 질문) 및 영업 상담 스크립트 추천, AI 기반 언더라이팅(보험 계약 심사) 등 실제 생성형 AI 서비스 적용 사례를 반영했다

SK C&C는 생성형 AI 도입으로 인한 비용 증가, 정보오류∙환각, 내부 데이터 유출 등과 같은 우려도 없앴다. 생성형 AI 오케스트레이션 플랫폼에서 △파인 튜닝(미세 조정) △프롬프트 엔지니어링 △데이터 보안·권한 관리 등을 거쳤다.

차지원 SK C&C G.AI그룹장은 "생성형 AI는 현재 기업 내에서 일어나는 모든 업무 영역을 재창조할 수 있는 잠재력을 보유하고 있다"며 "기업들이 SK C&C의 맞춤형 생성형 AI 서비스를 활용하면 구성원들이 효율적으로 업무에 활용할 수 있고, 비즈니스 밸류를 높이는 지렛대 역할을 할 수 있을 것"이라고 밝혔다.

/박진영 기자(sunlight@inews24.com)