"고객 데이터는 기업 상품이 아니다"

[드림포스2023] 마크 베니오프 CEO "26년 기술력, 신뢰성 높은 AI 제품 만들기 충분"

(지디넷코리아=김미정 기자)[샌프란시스코(미국)=김미정 기자] "고객 데이터는 기업 상품이 아닙니다. 사고파는 것이 아니라 보호해야 하는 존재입니다. 세일즈포스는 앞으로 인공지능(AI) 제품에 신뢰성을 더 키울 것입니다. 이를 통해 고객이 데이터 보안 염려 없이 생성 AI 제품을 편하게 이용할 수 있게 하겠습니다."

마크 베니오프 세일즈포스 최고경영자(CEO)는 12일부터 14일까지 미국 캘리포니아주 샌프란시스코에서 열린 '드림포스2023' 기조연설에서 고객 데이터 중요성을 재차 강조했다. 이번에 새로 공개한 '아인슈타인 원 코파일럿 플랫폼'에 고객 데이터를 어떻게 활용할 건지도 설명했다.

마크 베니오프 CEO는 최근 기업과 고객 사이에 AI 신뢰성 격차가 커졌다고 했다. 그는 "기업은 AI에 대한 신뢰성이 점점 커지는 반면, 고객은 AI에 대한 신뢰성이 점점 떨어지고 있다"고 했다. 

마크 베니오프 세일즈포스 최고경영자(CEO)가 기조연설 중이다.

그의 설명에 따르면, 고객은 자신의 정보가 AI 모델에 학습될 수 있고, 여러 제품에 무단으로 활용될 수 있다는 점을 불편해하고 있다. 생성 AI 답변에 대한 신뢰도도 낮다. 환각 현상 때문이다. 생성 AI를 직접 구축, 적용하는 기업보다 낮은 신뢰성 수치를 보이는 이유다.

베니오프는 "고객의 낮은 AI 신뢰성은 기업 브랜드 이미지를 손상할 것"이라며 "고객 데이터를 최대한 조심스럽게 다루는 AI 제품을 만들어야 한다"고 강조했다. 그는 "일반 고객이 AI를 믿을 수 있게 만들어야 한다"며 "고객 경험을 근본적으로 개선할 수 있는 방법을 찾아야 한다"고 강조했다.

베니오프 CEO는 고객 데이터를 클라우드에 안전히 보관해야 한다고 강조했다.

베니오프 CEO는 고객 데이터를 생성 AI 시대에 안전히 보관·활용할 수 있는 방법을 안다고 했다. 그는 "약 26년 동안 고객 데이터를 철저히 보호하는 기술을 개발, 고도화했다"며 "10년 전에는 AI를 안전하게 활용할 수 있는 방법까지 연구했다"고 강조했다. 그동안 고도화한 데이터 보호 기술을 생성 AI 제품에 접목할 방침이다. 그는 "고객 데이터는 우리 제품이 아니다"며 "26년간 갈고닦은 기술로 고객 데이터를 보호하겠다"고 재차 말했다.

마크 베니오프 CEO는 생성 AI 제품에 신뢰성을 고도화할 방침을 강조했다. 그는 "세일즈포스 AI 제품은 고객 데이터를 학습하지 않는다"며 "데이터를 무단으로 복제하거나 AI 모델에 넣어 훈련에 활용하지 않는다"고 했다. 고객 데이터가 생성 AI에 학습되거나 부적절한 방법으로 활용되지 않기 위해서다. 또 고객이 AI 제품을 안전하게 활용할 수 있도록 돕는 방법을 지속적으로 고도화할 계획도 알렸다.

"아인슈타인 원 플랫폼, AI 신뢰성에 사활 걸다"

세일즈포스는 이번 행사에서 아인슈타인 원 플랫폼을 공개했다. 대화형 생성 AI로 마케팅, 커머스, 서비스 등에 필요한 정보와 콘텐츠를 자동으로 만들어 주는 제품이다. 세일즈포스는 해당 플랫폼에 '아인슈타인 트러스트 레이어'를 접목했다. 

그는 아인슈타인 원 플랫폼에 들어간 아인슈타인 트루스 레이어를 소개했다.

아인슈타인 트러스트 레이어는 고객 데이터를 직접적으로 활용하지 않고 AI 모델에 접목하는 시스템이다. 그는 "해당 레이어는 세일즈포스가 26년간 만들어 온 데이터 보호 기술 집합체다"고 강조했다.

아인슈타인 트러스트 레이어 원리는 간단하다. 사용자가 프롬프트 생성하면, 레이어가 이에 맞는 데이터 검색을 진행한다. 이를 통해 프롬프트에 가장 밀접한 데이터만 선별한다. 환각 현상을 줄이기 위해서다. 

선별된 데이터가 언어모델로 전송되기 전 민감한 내용을 가린다. 그 후 오픈 AI 거대언어모델(LLM)이나 구글 버텍스 AI 등을 맞춤형으로 활용할 수 있다. 결과물은 아인슈타인 트러스트 레이어를 통해 나온다. 사용자는 해당 결과를 팩트체킹까지 할 수 있다. 

그는 세상에서 가장 안전한 AI를 확보하기 위해 노력하겠다고 밝혔다.

베니오프 CEO는 "우리는 생성 AI 시대에 고객 데이터를 최대한 조심스럽게 다루기 위해 노력한다"며 "파트너사를 비롯한 고객, 레드팀과 협력 중이다"고 강조했다. 이를 통해 아인슈타인 신뢰 검증기 내부에 가장 안전한 AI를 확보하기 위해 노력 중이다"고 덧붙였다.

김미정 기자(notyetkim@zdnet.co.kr)