“생성형 AI는 ‘자신감 넘치는 인턴’… 데이터 인프라·거버넌스 구축이 먼저”

‘FDI 2025 심포지엄’ 개최
AI 시대 위한 필수 전략 소개
“GPU 값 꺾였지만 하드웨어 과투자 금물”

조규곤 파수 대표가 22일 서울 여의도 페어몬트 앰버서더 호텔에서 열린 ‘FDI 2025 심포지엄'에서 기조연설을 하고 있다./파수 제공

“생성형 인공지능(AI)은 기업에 새로 들어온 ‘자신감 넘치는 인턴’과 같다.”

조규곤 파수 대표는 22일 서울 여의도 페어몬트 앰버서더 호텔에서 열린 ‘FDI 2025 심포지엄’ 기조연설에서 “생성형 AI는 무엇이든 대답하지만 완벽하진 않으므로, 작게 쪼갠 업무를 믿고 맡길 수 있도록 데이터 거버넌스를 먼저 갖춰야 한다”고 말했다.

파수는 기업이 생성형 AI를 안전하게 활용하기 위한 해법으로 ‘데이터 인프라·거버넌스 선(先) 구축’을 제시했다.

조 대표는 “새 AI 모델이 평균 2.5일마다 등장하고, 2026년이면 기업용 소프트웨어의 80%가 AI 기능을 품는다”며 “GPU(그래픽처리장치) 가격이 하향 안정세로 돌아섰어도 서버 등 시스템 인프라에 예산 절반 이상을 투입하는 대규모 프로젝트는 과도하다”고 지적했다. 퍼블릭 LLM(대규모언어모델)은 비용·프라이버시 한계가 뚜렷한 만큼, 제한적 퍼블릭 LLM 활용과 목적별 소형 LLM(sLLM)의 하이브리드 도입이 현실적이라는 설명이다.

조 대표는 생성형 AI가 배포·출력하는 모든 데이터에 대해 DLP(Data Loss Prevention)와 콘텐츠 검증이 필수라고 강조했다. 그는 데이터 레이크·메타데이터 관리 플랫폼 ‘랩소디’, AI 거버넌스 솔루션 ‘AI DLP·AI DHC’를 소개하며 “입력·출력 단계의 통제 없이는 프라이빗 LLM 투자 효과를 얻기가 어렵다”고 밝혔다. 이어 “새로운 모델을 손쉽게 교체할 수 있는 모듈형 아키텍처를 구축해야 한다”고 덧붙였다.

윤경구 본부장은 프라이빗 LLM ‘엘름(Ellm)‘을 소개했다. ‘알럼’은 제마‑3 120억 파라미터 모델을 기본 탑재하고 검색 증강 생성(RAG), 보고서 자동화, 멀티턴 대화 최적화 기능을 제공한다. 윤 본부장은 “전문가 평균 MMLU 점수(89.8점)를 이미 넘긴 오픈소스 모델 덕분에 ‘3개월마다 성능 두 배’라는 sLLM 가속 법칙이 현실화되고 있다”고 말했다.

그는 또 “모델 컨텍스트 프로토콜(MCP)과 에이전트‑투‑에이전트 표준이 보급되며 생성형 AI가 호텔 예약이나 결제 같은 현실 작업까지 대행하게 됐다”며 “‘알럼’은 전자결재·문서관리 등 사내 시스템을 MCP 서버로 엮고, 핵심 의사결정 단계마다 사람이 개입할 수 있는 ‘휴먼 인더루프’ 기능을 기본값으로 삼았다”고 설명했다.

파수는 생성형 AI 기반 업무 도구도 선보였다. ‘날리지 마스터’는 사내 지식을 일괄 질의·응답하는 챗봇, ‘라이브러리언’은 문서 유형별 맞춤 검색, ‘스크라이브’는 사업계획서·연구보고서 자동 작성 도구다. ‘프롬프트 스튜디오’는 복잡한 멀티 스텝 프롬프트를 시각적으로 설계하는 환경이며, ‘RAG 벤치마크’는 환각 여부까지 측정해 모델 교체 시 품질을 검증한다.

조 대표는 “대기업도 보안 투자에 허점이 있고, 중소기업은 어디서부터 시작해야 할지 모른다”며 “백업·암호화·취약점 분석 같은 기초 체력 위에 프라이빗 LLM과 거버넌스 인프라를 올려야 진짜 AI 혁신이 가능하다”고 말했다.

- Copyright ⓒ 조선비즈 & Chosun.com -