[Deloitte. 글로벌 금융 서비스 산업 트렌드 ①] 블루오션으로 떠오른 AI 리스크 보험 산업
세계경제포럼(WEF)이 최근 전 세계 전문직 종사자를 대상으로 실시한 조사 결과, 인공지능(AI)을 자사의 최대 기술 리스크로 꼽은 응답자가 1500명에 육박했다. AI의 발전이 거듭되면서, 금융 서비스 부문의 영향력있는 인사들도 AI의 강력한 잠재력을 인정하면서도 해로운 영향에 대한 우려를 표하고 있다.
사람이 느끼는 우려와 공포, 불확실성을 경감시켜 주는 것이 바로 보험 산업의 정수다. 다시 말해 AI를 둘러싼 리스크와 우려가 증가할수록 보험 업계는 실질적인 사업 기회가 증가한다는 의미다. 딜로이트는 2032년AI 리스크 대비 글로벌 보험료 총액이 47억달러(약 6조1608억원)에 달해 연평균 80% 증가할 것으로 전망한다. 이를 위해 보험사는 서둘러 AI 역량을 강화할 필요가 있다.
다가오는 AI 세상과 그에 따른 리스크
AI 기술은 예상치 못한 리스크를 수반한다. 머지않은 미래에 자율주행차를 타고 병원에 가 AI 진단을 받는 환자가 있다고 해보자. 몇주 후 이 환자는 AI 기반 수술을 받고 AI 챗봇과 상담해 의료보험료를 청구한다. 이 과정에서 잘못될 수 있는 일은 무수히 많다. 우선 자율주행차가 다른 차량과 충돌할 수 있고, 1차 진단에 오류가 있을 수 있으며, 챗봇이 정당한 의료보험료 청구를 거부할 수 있다. 이 사례에서 나타날 수 있는 AI 리스크는 심각한 재정적 손실부터 인명 피해까지 다양하다. 이 중 일부는 먼 미래의 얘기처럼 들릴 수 있지만, 이미 현실로 나타나고 있다.
2021년 수행된 연구 결과, 복수의 머신러닝 알고리즘이 임상 환경에서 코로나19 바이러스 감염을 진단해 내지 못했다. 2023년에는 AI 기반 채용 소프트웨어를 사용한 한 사교육 기업이 차별적 채용을 이유로 미국 연방 기관과 법적 소송에 휘말렸다. AI로 인한 인명 피해도 우려스럽다. 미국 고속도로교통안전국(NHTSA) 보고서에 따르면, 2022년 단 4개월 동안 자율주행차 사고로 11명이 사망했다. 스탠퍼드대 ‘2023 AI 인덱스(Stanford AI Index)’ 보고서에 따르면, 2012년 이후 AI 관련 사고와 논쟁 건수가 2600% 늘어난 것으로 나타났다.
AI 사용과 개발에 따른 책임은 중대하고도 예측 불가능하다. 하지만 현재의 경쟁적 시장 환경에서 기업 리더는 미지의 영역에 뛰어든다는 위험을 감수하더라도 AI 기술을 도입해야 한다는 압박을 받고 있다. 따라서 그들은 예측하지 못했던 사고에 대비하기 위해 보험을 찾게 될 것이다.
AI 도입 늘수록 보험 수요도 증가
현재 다수의 AI 솔루션 업체가 자사의 AI 제품에 대해 보호 장치를 제공하고 있다. 하지만 AI 기술이 폭발적 속도로 발전하고 있는 만큼, 이에 따른 리스크 규모와 범위는 단 몇 개 기업이 자체적으로 관리할 수 있는 수준을 훨씬 벗어나게 될 것이다. 특히 이미 AI 관련 법적 소송의 당사자가 돼 본 경험이 있다면, 그 어려움에 깊이 공감할 것이다.
생성 AI만 하더라도 사이버 보안 위협, 지식재산권(IP) 침해, 편향적이거나 거짓된 결과, 역정보 및 허위 정보, 개인 정보 보호 침해 등 여러 가지 리스크가 있어 기업이 막대한 손해를 볼 수 있다. 하지만 이러한 리스크에 대해 보험을 들면 우려를 해소하고 더욱 적극적으로 AI를 도입할 수 있게 된다.
AI 보험 산업 촉발하는 AI 피해 경험
미국에서 휘발유 자동차가 처음 생산된 것은 1800년대지만, 자동차 보험이 의무화한 것은 30년도 더 지나서였다. 하지만 AI 보험 시장은 이보다는 빨리 형성될 것이다. 전 세계 규제 당국이 곧 AI 사용에 대한 보호 장치와 위험관리 장치를 의무화할 것이고, 이러한 안전망에는 보험이 포함될 가능성이 크다.
유럽연합(EU)은 세계 최초로 총체적 AI 규제를 마련 중인데, 여기에는 최대 3800만달러(약 498억원)의 벌금을 부과하는 조항이 포함돼 있다. 미국 몇몇 주(州)정부도 AI를 통제하는 법안이나 결의안을 발의했다. 미국 연방정부에서는 조 바이든 대통령이 ‘안정적이고 안전하며 신뢰할 수 있는 AI의 개발과 안전에 대한 행정명령’을 내렸다. 이러한 규제가 보험을 의무화하지는 않지만, 위반 시 막대한 벌금을 내야 하는 만큼 관련 리스크에 대비한 보험을 찾는 기업이 늘어날 것으로 전망된다. AI 관련 피해 및 손실 빈도가 늘고 심각성이 심화하는 것도 기업이 AI 리스크에 대비한 보험을 찾게 하는 요인이 될 것이다. 과거 사이버 보험 시장도 비슷한 성장 과정을 겪었다. 미국에서 2016~2019년 사이버 공격 건수가 두 배 증가하자, 관련 보험료 총액이 대폭 증가했다.
AI 보험 시장에 뛰어든 기업
소수의 대형 재보험사는 AI 보험 시장에 뛰어들고 있다. 독일 뮌헨 재보험(Munich Re)은 2018년 AI 스타트업을 겨냥한 AI 보험 상품을 출시했다. AI 개발자, 도입 기업, AI 모델을 자체 개발하는 기업을 위한 보험 상품도 나왔다. AI 제품의 성능을 보장하는 보험 상품을 출시한 아밀라 AI(Armilla AI) 등 몇몇 인슈어테크(insurtech) 스타트업도 AI 보험 시장 진입을 시도하고 있다.
하지만 AI 모델의 성능에 대한 데이터는 부족한데 기술 개발 속도가 워낙 빨라, 관련 리스크를 측정하고 보험료를 산정하는 것이 쉽지 않다. 이에 따라 AI 보험 시장에 진입하려는 보험사는 내부 전문성을 키우고 자체 정성적·정량적 리스크 평가 체계를 구축해 AI 시스템에 내재된 리스크 이해 역량을 강화하고 있다. 새로이 나타나 끊임없이 진화하는 리스크를 충분히 이해하려면 시간을 들여 수많은 시행착오를 거치고 경험을 쌓는 과정이 필요하다. 그리고 이러한 과정을 빨리 시작할수록 필요한 역량을 재빨리 확보하고 시장점유율을 확대해 성장 기회를 먼저 잡을 수 있다. 스위스 재보험(Swiss Re)의 조달 및 계약(P&C) 연구개발(R&D) 부문 부사장인 제리 굽타는 AI 관련 보험 상품 개발에 대해 “배움과 데이터가 쌓일수록 다음 실행 단계를 더욱 분명히 파악할 수 있다”고 말했다.
아직 대부분 보험사는 대형 글로벌 보험사의 움직임을 관망하고 있다. 보험사는 사이버 보험 산업의 경험을 적용해 엄격한 리스크 관리 방식과 안전장치를 요구하면 손실을 줄일 수 있다. 또한 AI 모델 감사, 인증 업체, 여타 외부 AI 전문가와 협업하면 AI의 블랙박스 문제(AI가 답을 내리기까지 어떤 사고 과정을 거쳤는지 파악할 수 없는 것)에 대해 더 깊게 이해할 수 있다.
세상은 끊임없이 진화하고 그에 따른 새로운 리스크도 끊임없이 등장한다. 보험사는 다양한 리스크에 대비한 안전장치를 제공한다는 본연의 임무에 충실해, AI 시대에도 사회의 보호 장치와 신뢰를 지키는 역할을 담당해야 한다. 이를 위해 지금 당장 첫발을 내디뎌야 한다. 우선 AI 모델의 리스크에 대한 보험료를 산출하는 것이 첫 단계다. 이를 발판으로 AI 리스크와 그에 따른 손실에 대한 정보를 계속 축적해 나가면 AI 보험 산업을 형성하고 성장시킬 수 있다.
Copyright © 이코노미조선. 무단전재 및 재배포 금지.