AI 시대, B2B 기업의 데이터 보안전략은 “보안 내재화”

AI 도입 활용하면서 데이터 보안 부각
대화 분석 플랫폼 ‘콕스웨이브’
“AI 적용 위해 가장 먼저 보안 해결해야”

AI 시대 데이터의 중요성을 명령어로 입력해 생성한 이미지 [그림=달리2]

인공지능(AI) 시대, 데이터를 둔 경쟁이 끊이지 않고 있다. 데이터는 정부, 기업, 개인 모두에게 중요한 자산으로 작용하며, 데이터 확보를 위한 무한 경쟁이 계속되고 있다.

지난해 말에는 마이크로소프트(MS) AI 개발자들이 각종 내부 기밀, 비밀키, 비밀번호, 내부 대화 등이 포함된 약 38TB에 달하는 데이터를 노출하는 사고가 발생했다. 깃허브에 인공지능 훈련용 데이터를 공유하려다가 발생한 실수로, 스토리지 컨테이너의 설정 오류가 원인으로 밝혀졌다.

이처럼 데이터 유출 사례가 점차 발생하자, AI를 도입하고자 하는 기업, AI를 공급하고자 하는 기업 중심으로 데이터 보안이 주요 이슈로 떠올랐다.

미국 시장에서는 보안 문제를 해결한 하비AI, 글린 등이 대규모 투자 유치를 받거나 높은 기업 가치를 인정받는 등 보안 문제 해결이 기업의 주요 성공 요인으로 꼽히고 있다.

AI시대, 중요해지는 데이터 보안

미국의 유명 AI 리걸테크 기업 하비는 챗GPT 기반의 ‘하비 AI’를 제공하며 변호사의 업무 효율을 돕는 법률 문서 편집, 조사 서비스 등을 운영한다. 메타와 구글 딥 마인드 출신 가베 페레이아, 변호사 출신 윈스턴 와인버그가 대표로 이끄는 기업으로 미국의 유명 벤처투자사인 세쿼이아 및 오픈AI를 비롯한 투자사로부터 누적 금액 1억여 달러(약 1341억 원) 규모의 달하는 시리즈 B 투자를 이끌어냈다.

2022년 1월 설립된 신생 기업이지만 현재 하비의 기업 가치는 이미 7억여 달러(약 9390억 원)에 달한다. 영국의 대형 로펌인 ‘앨런&오버리’와 ‘맥팔레인’, 세계 4대 회계 법인 중 하나인 ‘PwC’와 파트너십을 맺고 하비 AI의 기술력을 입증했으며 지난 3월 19일 MS와의 파트너십을 발표하기도 했다.

하비는 ‘믿을 수 있는 AI’ 제공을 위해 구글, MS 골드만삭스 등 유수 기업 출신의 전문가를 통해 보안 시스템을 구축했으며, 보안 정책과 프레임워크에 대한 모든 주요 인증을 취득했다.

글린은 기업 데이터베이스를 기반으로 필요한 정보를 빠르게 검색할 수 있는 업무 보조 AI로, 기업 내부의 모든 데이터를 종합적으로 검색, 분석할 수 있는 ‘자사 특화 ChatGPT’다. 사용자가 속해있는 부서, 담당하는 업무, 자주 소통하는 동료 등 업무 중에 발생하는 상호 작용까지 파악하며 더욱 연관 있고 정확한 검색 결과를 제공하는 것이 특징이다.

글린은 전 구글 검색 엔지니어와 업계 베테랑으로 구성된 팀으로 2019년에 설립됐다. 글린은 기업을 위한 ‘책임감 있는 AI (Responsible AI)’를 내세우며 신뢰할 수 있는 답변과 데이터 안전성을 제공한다. 특히 기업 데이터에 있어 권한을 실시간으로 확인할 수 있도록 제공하며, 기업 내부에서도 특정 사용자들에만 민감한 정보의 액세스만 허용하도록 설정할 수 있다.

콕스웨이브 “AI 도입을 위해선 보안 해결 우선”

국내 기업들도 글로벌 표준에 맞추어 보안을 강화하고 있다. AI 제품 분석 플랫폼 얼라인 AI(Align AI)의 운영사인 콕스웨이브는 기업들이 AI 도입을 위해서는 AI 제품의 ‘보안’이 가장 먼저 해결되어야 한다고 강조한다.

콕스웨이브의 제품은 제품 기획 및 설계 단계부터 ‘안전에 의한 디자인(Security by design)’ 이라는 원칙하에 이루어진다. 콕스웨이브는 “많은 기업이 보안 그 자체만을 목표로 하지만, Security by design은 ‘신뢰성’이라는 보다 넓은 개념을 목표로 두고 있다”라고 설명한다.

김기정 콕스웨이브 대표는 “비즈니스에 있어 가장 중요한 것은 신뢰”라며 “고객 정보가 유출되는 것은 그동안 쌓아온 신뢰를 한순간에 무너뜨릴 수 있다”라고 말했다. 그는 이어 “AI가 더 많은 사람에게 유용하게 활용되고, 기업 도입을 위해서는 기업 입장에서 요구하는 AI의 안정성과 제어 가능성을 확보해야 한다”라고 덧붙였다.

콕스웨이브는 현재 AI 엔터프라이즈 솔루션을 공급하고 있다. 생성형 AI 도입을 희망하는 모든 기업을 대상으로 챗봇 도입-구축-운영-분석 및 개선까지 지원하며, 챗봇 도입 이후에도 콕스웨이브의 분석 플랫폼인 얼라인 AI를 활용하여 사용자와 AI 간 대화를 포함한 복합적인 행동 데이터까지 분석할 수 있다.