“AI가 사고친 것도 보상”… AI 전용 보험 시대 열렸다

일레븐랩스, AI에이전트 보험 운영
프랑스·독일 등서도 전문상품 출시

생성형 AI 로 만들어진 이미지 입니다.

기업 업무 현장에 인공지능(AI)이 빠르게 확산되면서 AI가 발생시키는 사고를 전문적으로 보상하는 ‘AI 전용 보험’이 등장했다. 단순 보조 소프트웨어에 머물던 AI가 이제는 업무 결과에 책임을 지는 한 명의 ‘디지털 직원’으로 평가받는 단계에 접어들었다는 진단이 나온다.

19일 업계에 따르면 글로벌 AI 오디오 연구·개발 스타트업 ‘일레븐랩스’는 AI 리스크 평가 기관 ‘AIUC’와 협력해 ‘AI 음성 에이전트 전용 종합보험 제도’를 운영한다고 밝혔다. 일레븐랩스의 AI 에이전트 ‘일레븐에이전트’가 잘못된 정보를 제공하거나 부적절한 대응을 해 기업에 손해가 발생하는 경우 이에 대한 보상을 받을 수 있는 구조다. 보험 적용을 위해서는 3개월마다 기술 검증을 수행하고 12개월마다 인증 절차를 거쳐야 한다.

AI 에이전트 보험의 등장 배경에는 업무용 AI 사용의 급격한 확산이 자리한다. 글로벌 컨설팅사 베인앤컴퍼니에 따르면 지난해 미국 기업의 약 95%가 업무에 생성형 AI를 도입한 것으로 나타났다. 하지만 편리함의 이면에서 부작용 우려도 커지는 상황이다. 할루시네이션(환각)으로 인한 허위정보 생성·확산, 저작권 침해, 사회적 차별 학습, 딥페이크 등 AI 특유의 리스크가 기업 경영의 새로운 위협으로 부상한 것이다.

글로벌 보험사의 대응은 양분된다. 일부는 AI 피해 위험을 보험 시장 확대 기회로 보고 전문 상품을 출시하고 있다. 보험연구원에 따르면 프랑스 ‘악사(AXA)’는 기존 사이버보험에 생성형 AI 데이터 오염, 규제 위반, 저작권 침해로 인한 법적 분쟁 등을 보장하는 특약을 도입했다. 독일 ‘뮌헨 재보험’은 생성형 AI 오류 발생 확률을 정량적으로 평가해 보험료율을 산정하고 보험 가입자가 입은 재무적 손실 등을 보상한다. 캐나다 ‘아밀라AI’와 중국 ‘인민재산보험’도 생성형 AI 위험을 전문적으로 담보하는 단독 보험 상품을 운영 중이다. 글로벌 컨설팅업체 딜로이트는 2032년 전 세계 보험사들이 연간 47억7000만 달러(약 7조원)의 AI 보험료를 벌어들일 수 있을 것이라고 예측했다.

반면 AI를 담보 범위에서 제외하는 보험사도 있다. 위기관리 컨설팅업체 ‘베리스크’는 생성형 AI 오류로 인한 재산손해, 신체상해, 개인 또는 광고상 손해를 면책 대상으로 포함하는 특약을 표준 보험약관 형태로 제시하고 있다.

전문가들은 한국 역시 단계적 접근이 필요하다고 제언했다. 한진현 보험연구원 연구위원은 “국내 기업의 생성형 AI 활용 피해 사례와 보험상품 수요 조사를 진행하고, 인공지능기본법에서 규정한 ‘생성형 AI’ 정의를 참조해 보장항목을 국내 법·규제체계에 호환되도록 설정해야 한다”며 “이후 생성형 AI 관련 위험 중 인수가능성이 높은 위험부터 선별해 시범적으로 보험상품을 도입해볼 수 있을 것”이라고 말했다.

양윤선 기자 sun@kmib.co.kr

GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지