이루다가 촉발시킨 AI 리스크..전용 보험 개발 가속도

AI 기술 확산에 전에 없던 새로운 사고 빗발
기존 사이버 보험으로는 관련 손해 보상 불가

인공지능 리스크에 대응하기 위한 전용 보험 개발 논의가 확산되고 있다.ⓒ픽사베이

인공지능(AI) 챗봇 이루다로부터 촉발된 혐오 발언 논란을 계기로 관련 리스크에 대응하기 위한 전용 보험의 필요성이 커지고 있다. 기존에 나와 있는 사이버 보험으로는 AI의 문제로 인한 손해를 보상받을 수 없어서다. 이에 보험업계에서는 AI를 둘러싼 위험 요인까지 보장을 확대한 상품 개발을 둘러싸고 셈법이 복잡해질 전망이다.

23일 미국의 시장조사 기업 가트너가 전 세계 89개국 3000명의 최고정보관리책임자들 대상으로 진행한 설문에 따르면 2015년부터 2019년까지 지난 4년 간 AI 기술을 활용하고 있다고 응답한 기업의 수는 10%에서 37%로 세 배 넘게 확대된 것으로 집계됐다. 특히 글로벌 기업의 91.5%는 AI 기술에 지속적으로 투자하고 있다고 응답했다.

AI 기술 적용을 통한 경영 상의 효과도 상당하다는 분석이다. 컨설팅 회사 맥킨지 등은 AI 기술을 도입·활용함으로써 기업의 생산성은 약 54% 향상됐고, 사업비는 44% 가량 절감돼 비용 효율성이 증대됐다고 평가했다.

그러나 AI 기술이 단기간 급격하게 확산되면서 이전에는 예상할 수 없었던 AI 오작동·오류로 인한 새로운 종류의 사고들이 발생하기 시작하면서 AI 실패 우려가 제기되고 있다. 특히 최근 국내 스타트업이 개발한 챗봇 이루다가 잘못된 알고리즘 데이터 학습으로 인해 성차별 및 사회적 약자 혐오 발언을 해 논란이 됐고, 결국 해당 회사는 서비스를 잠정 중단하기도 했다.

이런 문제는 비단 우리나라만의 일이 아니다. 미국에서는 승차공유업체 우버의 자율주행차 알고리즘 오작동으로 보행자가 신체상해를 입고 사망한 사건이 벌어졌고, 마이크로소프트사가 개발한 트윗봇 테이의 인종차별 및 정치편향적 트윗 업로드로 브랜드 이미지가 훼손되는 사례가 발생하기도 했다.

이처럼 AI 기술이 개인과 기업에 잠재적으로 부정적 결과를 가져오는 AI 리스크는 기술수행, 정보보안, 경제·사회, 윤리 등 여러 측면에서 이미 현실화되고 있고 AI 기술 발전에 따라 더욱 다양한 형태로 진화될 것으로 예상된다.

AI 리스크는 크게 ▲수행 리스크 ▲보안 리스크 ▲통제 리스크 ▲경제적 리스크 ▲사회적 리스크 ▲윤리적 리스크 등으로 분류된다. 이 중 AI가 악용되는 통제 리스크나 계층 간 불평등을 초래하는 사회적 리스크는 현재 AI 기술 수준에선 다소 극단적인 시나리오이지만, 향후 기술이 고도로 발전할 것을 고려하면 충분히 예상 가능한 위험이란 평이 나온다.

하지만 기업들의 AI 리스크 인식과 대응은 여전히 낮은 수준으로 평가되고 있다. 이 때문에 기업들이 효율적으로 AI 리스크에 대응할 수 있도록 관련 보험을 개발하고 활용할 필요가 있다는 지적이 제기된다. 지난해 우리나라 국회입법조사처에서는 AI 알고리즘 사전설계 및 사후 감독체계에서 의도하지 않았던 위험이 발생한 경우 피해보상 혹은 누구에게도 책임을 돌릴 수 없는 손해의 배상을 위한 보험제도 도입을 검토해 볼 필요가 있다는 주장을 내놓기도 했다.

특히 현재 판매되고 있는 사이버 보험은 AI 리스크 중 데이터와 보안 관련 위험만을 보장하는 상품이다. 이 때문에 AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손 등의 물적 손실을 보장받을 수 없으며, 따라서 AI 전용 보험의 개발이 중요하다는 조언이다.

김윤진 보험연구원 연구원은 "현재 국내외 일부 보험사에서 AI 관련 보험이 개발되고 있으나, 이들 보험은 AI 리스크 중 일부만을 보장하고 있다"며 "보험사는 고객이 AI 리스크를 종합적으로 보장받을 수 있도록 보장범위를 확대할 필요가 있다"고 전했다.

이어 "기업의 AI 기술 도입이 초기에 불과하기 때문에 데이터가 충분하지 않아 AI 전용보험 개발에는 시간이 필요할 것으로 보인다"면서도 "보험사는 AI 산업의 급속한 확장으로 인한 보장 수요에 대응해 AI 전용보험의 보장 범위를 단계적으로 확대할 필요가 있다"고 덧붙였다.

데일리안 부광우 기자 (boo0731@dailian.co.kr)