챗봇 '이루다' 논란.."보험사, 기업 AI 리스크 고려한 전용보험 개발 나서야"

최근 인공지능(AI) 오작동·오류로 인한 사고가 발생하면서 기업들의 AI 리스크 대응을 위한 보험개발·활용이 필요하다는 주장이 제기됐다. 국내 스타트업이 개발한 챗봇 '이루다' 사고 사례를 계기로 눈길을 끈다.

김윤진 보험연구원 연구원은 17일 'AI 리스크와 전용보험의 필요성' 보고서를 통해 기업들의 AI 기술 도입·활용이 늘면서 긍정적 효과가 부각되고 있으나, 한편 AI로 인한 새로운 형태의 사고가 발생하는 등 실패에 대한 우려가 늘고 있다고 진단했다.

실제 미국 시장조사 기업 가트너가 전 세계 89개국 3000명의 CIO를 대상으로 진행한 설문에 따르면 2015년 이후 지난 4년간 'AI 기술을 활용하고 있다'고 응답한 기업의 수는 10%에서 37%로 증가했다. 구글이나 GM, 화이자 등 글로벌 기업 91.5%는 'AI 기술에 지속적으로 투자하고 있다'고 응답하기도 했다.

이런 적극적인 AI 도입·활용은 기업 생산성 및 사업비 절감에 상당한 효과를 보이고 있다. 컨설팅 회사 맥킨지 등은 기업이 AI 기술을 도입·활용함으로써 생산성은 약 54% 향상했고, 사업비는 44%가량 절감됐다고 평가했다.

다만 최근 새로운 종류 사고가 발생하면서 AI 도입에 따른 실패 우려도 제기된다. 미국에서는 승차공유업체 우버의 자율주행차 알고리즘 오작동으로 보행자가 신체상해를 입고 사망한 사건이 발생했다. 우리나라도 최근 국내 스타트업이 개발한 챗봇 '이루다'가 잘못된 알고리즘 데이터 학습으로 성차별과 사회적 약자 혐오 발언을 했다.

김 연구원은 보험회사들이 AI 전용보험 개발에 나설 필요성이 있다고 강조했다. 현재 판매되는 사이버 보험은 AI 리스크 중 데이터 및 보안 관련 위험만을 보장하기 때문이다. AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손 등 물적 손실을 보장받을 수 없다.

김 연구원은 “AI 리스크 중 '보안 리스크'에 포함되는 데이터 유출, 정보보안, 모델링 도용 또는 소프트웨어 관련 위험과 손해는 기존 사이버 보험 담보 범위 내에서도 보장이 가능하다”면서 “다만 '경제적 리스크'에 해당하는 신체 상해, 브랜드 훼손, 물적 손해는 사이버 보험에서 보장하지 않기 때문에 이를 보장하기 위한 AI 전용보험 개발이 요구된다”고 말했다.

박윤호기자 yuno@etnews.com