'이루다' 논란 등 알고리즘 오류에.."AI 리스크 특화보험 개발해야"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
최근 인공지능(AI) 챗봇 '이루다'의 혐오 발언 논란 등 AI 오작동·오류로 인한 사고가 발생하면서 기업들의 'AI 리스크' 대응을 위한 관련 보험 개발과 활용의 필요성이 제기됐다.
보고서는 기업들의 AI 리스크 인식과 대응 수준이 낮은 것으로 평가되는 만큼 기업들이 효율적으로 AI 리스크에 대응할 수 있도록 관련 보험을 개발하고 활용할 필요가 있다고 강조했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
예상하지 못한 오작동 사례 증가
지금은 데이터·보안 위험만 보장
개인 피해·브랜드 가치 훼손 등
보장범위 넓힌 AI 전용보험 필요
18일 보험연구원이 발간하는 KIRI 리포트에 실린 ‘AI 리스크와 전용 보험의 필요성’ 보고서는 AI 리스크에 특화된 AI 전용 보험의 개발 필요성을 강조했다. 최근 여러 기업이 AI 기술을 도입·활용하면서 긍정적 효과들이 부각되고 있지만 동시에 새로운 형태의 사고 발생에 따른 우려도 나타나고 있기 때문에 보험 업계의 대응을 주문한 것이다.
미국 시장조사 기업 가트너가 전 세계 89개국, 3,000명의 최고정보관리책임자(CIO)를 대상으로 진행한 설문 조사에 따르면 지난 4년간(2015~2019년) ‘AI 기술을 활용하고 있다’고 응답한 기업의 수는 10%에서 37%로 증가했다. 구글, 제너럴모터스(GM), 파이저 등 글로벌 기업 91.5%는 ‘AI 기술에 지속적으로 투자하고 있다’고 답했다.
AI 기술이 발전하고 있지만 동시에 AI 기술이 개인과 기업에 미칠 잠재적인 부정적 결과인 AI 리스크도 더욱 다양한 형태로 진화하고 있다. 김윤진 보험연구원 연구원은 “AI 기술 도입이 단기간에 급격하게 증가함에 따라 이전에는 예상할 수 없었던 AI 오작동 및 오류로 인한 새로운 종류의 사고들이 발생하기 시작하면서 AI 실패 우려가 제기되고 있다”고 지적했다.
실제로 국내 스타트업이 개발한 챗봇 ‘이루다’가 편향된 알고리즘 데이터 학습에 따른 성차별·사회적 약자 혐오 발언을 해 출시 한 달도 안 돼 서비스가 중단됐다. 미국에서는 승차 공유 업체 우버(Uber)의 자율주행차 알고리즘 오작동으로 보행자가 신체 상해를 입고 사망한 사건이 발생하기도 했다.
보고서는 기업들의 AI 리스크 인식과 대응 수준이 낮은 것으로 평가되는 만큼 기업들이 효율적으로 AI 리스크에 대응할 수 있도록 관련 보험을 개발하고 활용할 필요가 있다고 강조했다. 특히 현재 판매되는 사이버 보험은 AI 리스크 중 데이터 및 보안 관련 위험만 보장하는 수준에 머물고 있다. AI 알고리즘 결함으로 인한 신체 상해, 브랜드 훼손 등의 물적 손실을 보장받을 수 없는 만큼 AI 전용 보험 개발이 시급한 상황이다. 가령 B사가 설계한 챗봇을 A사가 도입해 사용하던 중 알고리즘 오류로 인해 챗봇이 A사 브랜드 이미지를 훼손하는 경우 사이버 보험은 이를 보장하지 않고 있다. AI 활용에 따른 유무형의 피해가 발생할 경우 책임 소재를 놓고 논란이 커질 가능성이 크다. 김 연구원은 “보험사는 고객이 AI 리스크를 종합적으로 보장받을 수 있도록 보장 범위를 확대할 필요가 있다”고 지적했다.
보험사 자체적으로도 AI 리스크를 대비해야 한다는 지적도 나왔다. 김 연구원은 “우리나라 보험사들도 AI 챗봇을 고객 상담에 활용하고 보험 사기 예방을 위해 AI 기술을 적용하는 등 AI 기술 도입이 증가하고 있기 때문에 보험사도 자체적으로 AI 리스크에 대비해야 한다”고 덧붙였다. /김현진기자 stari@sedaily.com
Copyright © 서울경제. 무단전재 및 재배포 금지.
- 조국 딸 의사국시 합격 소식에…'정정당당 실력 입증' vs '死神이 온다'
- [Q&A] ‘우리 스키장 이용 가능 인원은 00명’…출입문에 써 붙이세요
- 승객 있는 전철서 남자끼리…성관계 영상 확산에 홍콩경찰 수사 착수
- 갤S21 어디서 살까…통신3사 지원금 경쟁 '후끈'
- 출생신고도 안하고 키우다 8세 딸 살해…비정한 40대 母, 구속영장 심사 출석
- 더 강한 눈 온다…'내일 출근길 대중교통 이용하세요'
- 이재용 '국정농단' 실형이냐 집유냐…법원 판단 포인트는
- [국정농담] 北핵무장에도 한미훈련이 골칫덩이인 '우주의 기운'
- “무서운 빚투” 새해 2주 동안 마통 2만 개 뚫렸다
- 조국, 딸 조민 의사 국시 최종합격 축하에 '고마워요'‥의사단체회장 '의사 가운 찢고 싶다' 개탄