"생성형 AI만 능사 아냐"…'AI 리스크 관리 플랫폼' 내놓은 IBM

기업용 통합형 AI '왓슨x.거버넌스'
"사용 중인 AI 이력·리스크 한 눈에 확인 가능"
"각 국 규제도 자동 검토…'원스톱' 솔루션"

IBM이 출시한 '왓슨x.거버넌스'를 소개하고 있는 이지은 한국IBM 최고기술책임자 전무. / 사진=한국IBM 제공

"한 개의 강력한 생성형 인공지능(AI) 모델이 모든 문제를 해결할 수 없습니다. 다양한 모델들이 존재해야 리스크가 낮아지고 기업 수익은 늘어납니다. 이것이 IBM이 기업용 통합형 인공지능(AI)인 '왓슨x(Watsonx)'를 선보인 이유입니다."

한국IBM은 14일 서울 영등포구 여의도 사옥에서 생성형 AI 플랫폼 솔루션 '왓슨x. 거버넌스' 출시 간담회를 열었다. IBM은 챗GPT, 구글 바드 등 일반 사용자를 대상으로 서비스하는 대형 언어 모델(LLM·Large language model)과 달리 지금까지 기업용 솔루션에 집중해왔다.

이 자리에서 이지은 한국IBM 최고기술책임자(CTO·전무)는 "많은 기업이 생성형 AI를 도입했지만, 정보 유출 등 리스크에 대한 우려도 큰 상황"이라며 "왓슨x.거버넌스를 포함한 통합 플랫폼을 통해 고객사는 더 안전한 환경에서 AI를 활용할 수 있다"고 설명했다.

한국IBM은 지난 7월 왓슨x 플랫폼의 솔루션인 '왓슨x. AI'와 '왓슨x. 데이터'를 출시한 바 있다. 왓슨x. AI는 개발자들이 머신 러닝을 기반으로 AI를 구축하고 실행할 수 있도록 돕고, 왓슨x. 데이터는 수집한 데이터를 저장하고 관리해준다. 이날 선보인 왓슨x. 거버넌스는 다른 솔루션과 함께 구동되며 기업이 사용 중인 AI 모델의 여러 리스크를 통합적으로 관리해준다.

그동안 생성형 AI를 도입한 기업들의 가장 큰 우려는 '데이터 관리'였다. 특히 국내 기업들은 데이터 보안 문제에 대해 아예 내부 접근을 차단하는 식으로 대응해왔다.

AI가 가진 자체적 편향성, 환각(Hallucination), 오류 등 신뢰성 문제와 더불어 각국의 AI 규제 강화도 기업의 고민거리다. 실제로 미국이 AI 기술 사용 시 보고 의무 기준을 강화한 데 이어 한국도 올해 6월 처음으로 AI 윤리 기준을 제정한 바 있다.

생성형 AI의 리스크에 대해 설명하고 있는 김현정 한국IBM 컨설팅대표. / 사진=한국IBM 제공

이에 대해 김현정 한국IBM 컨설팅 대표는 "결국 신뢰할 수 있는 데이터, 모델 그리고 이 두 개가 사용되는 '사이클'을 얼마나 투명하게 관리하고 통제할 수 있느냐가 핵심"이라며 "기업의 우려점을 해소해야 AI의 진정한 가치가 실현된다"고 말했다.

IBM은 왓슨x. 거버넌스가 이러한 우려에 대한 안전장치를 제공하는 플랫폼이라고 소개했다. △AI 생애주기 거버넌스 △AI 위험 요소 관리 △규제 준수 부문에 대한 기술을 제공해 기업이 AI를 신뢰하고 효율적으로 활용할 수 있도록 돕는다는 것이다.

우선 기업이 사용 중인 전체 AI 모델 전체를 모니터링하면서 메타 데이터를 수집한다. 이 데이터에는 해당 AI가 어떤 언어를 기반으로 개발됐는지, 정보를 학습하는 조건은 무엇인지 등이 포함돼 있다. 이를 솔루션 내에 있는 'AI 팩트 시트(Fact Sheet)'에 기록한다.

이 CTO는 "말 그대로 AI의 생애주기를 파악하고 모니터링하는 과정"이라며 "이 기능을 통해 기업은 영양 정보, 칼로리 등이 적힌 식료품 영양성분표처럼 AI 모델의 전체 데이터 정보를 투명하게 파악할 수 있다"고 말했다.

또한 왓슨x. 거버넌스는 한 기업 내에서 쓰이는 다양한 AI 모델을 한 번에 통제해 편향성 등 리스크를 관리할 수 있게 해준다. IBM에 따르면 현재 카드사, 보험사 등 일부 기업은 LLM이 아니더라도 이미 100개 이상의 머신러닝을 업무에 활용하고 있다. 기업은 이 플랫폼을 통해 사내 다양한 부서에서 동시에 작동되고 있는 전체 AI 모델의 리스크를 실시간 확인할 수 있다.

'왓슨x.거버넌스'를 시연하고 있는 김지관 한국IBM AI기술플랫폼 실장. / 사진=성진우 한경닷컴 기자

국가마다 상이한 AI 관련 규제도 자동으로 탐지하고 위반성 여부를 검토해준다. 사용 중인 AI 모델이 어떤 법규를 위반하는지 플랫폼 안에서 확인 가능하다. 이는 특히 다국적 기업에 효율적인 기능이라고 회사 측은 부연했다.

이날 IBM은 왓슨x. 거버넌스를 직접 시연했다. 보험금 지급 과정을 AI로 처리하는 가상의 한 보험사가 왓슨x. 거버넌스를 통해 현재 작동 중인 AI의 정확도가 얼마나 높은지 등을 확인하는 상황을 보여줬다. 실제로 이 솔루션을 통해 고객의 보험금 청구서를 요약하는 기능이 현재 정확도는 높지만 가독성이 떨어진다는 결과가 나왔다.

김 대표는 "챗GPT 이후 일반 고객들의 생성형 AI에 대한 관심이 커진 것은 사실이지만, IBM은 과거부터 B2B(기업 간 거래) 시장에서 강점을 보여왔다"며 "앞으로도 다양한 기술들이 기업 환경에서 가장 경제적이고 유의미하게 사용될 수 있도록 앞장설 것"이라고 말했다.

성진우 한경닷컴 기자 politpeter@hankyung.com

▶ 미리보는 신년운세…갑진년 한해를 꿰뚫어드립니다
▶ 한국경제·모바일한경·WSJ 구독신청하기