보험사, AI 챗봇 전담팀 가동..잘못된 데이터 학습 막는다

'딥러닝 약점' 사회 문제로 불거지며
자체 프로세스 마련해 리스크 관리
신한생명 '신비' 대화이력 검증·보완
교보생명 'AI활용팀' 실시간 모니터링

보험회사들이 실시간 고객과 상담이 가능한 인프라 구축에 나선 가운데 한 스타트업이 개발한 '이루다' 사례 등 인공지능(AI) 챗봇의 딥러닝 약점이 지적되면서 회사들이 대응에 나섰다. 전담팀은 물론 모니터링 솔루션 등을 도입해 대응 마련에 분주하다.

19일 업계에 따르면 교보생명, 라이나생명, 삼성생명, 신한생명, 흥국생명, DB손해보험 등 다수 보험사들은 AI 챗봇 관련 악의적이거나 잘못된 딥러닝 등을 방지하기 위해 자체 프로세스를 마련·운영하고 있다.

챗봇은 채팅과 로봇의 합성어로 AI를 기반으로 한 메세징 플랫폼을 말한다. 보험사는 챗봇을 이용해 비용절감과 수익창출, 리스크 관리를 강화할 수 있다. 소비자는 시간과 장소 제약 없이 실시간 보험 관련 서비스를 제공받을 수 있다. 해외에선 미국 인슈어테크 회사 레모네이드 등이 보험가입이나 청구에 사용하는 등 보편화된 형태다.

우선 신한생명은 AI 챗봇 '신비'를 위한 전담 모니터링 조직을 운영 중이다. 신비는 신한생명이 AI 챗봇 전문기업 와이즈넛과 제휴를 하고 개발했다. 신비 운영팀에서는 매일 대화이력을 전수 검증해 자연어처리 질문·답변을 검증해 보완하고 있다. 이외에도 제니퍼, GA360(Google Anaytic) 등 모니터링 솔루션을 활용해 속도 지연 등 시스템 오류도 지속 점검하고 있다.

신한생명 관계자는 “국내에서 발생한 AI 챗봇 관련 이슈의 경우 시중의 범용 데이터를 검증없이 활용해 데이터 편향성으로 발생한 것”이라면서 “신비 운영팀이 매일 대화이력을 전수 검증하는 등 악의적인 데이터로 딥러닝이 되지 않도록 고도화작업을 진행 중”이라고 말했다.

교보생명의 AI 챗봇 '러버스 2.0'은 AI활용팀이 데이터 실시간 모니터링 작업을 전담하고 있다. 해당 팀은 딥러닝 유효성 검사를 지속해 챗봇이 제대로 질문·답변이 진행되는지 확인하고 있다. 흥국생명도 AI 챗봇 '베리콧' 관련 실시간 검사를 지속하고 있으며, 라이나생명은 AI 챗봇에 사전 집중되는 데이터를 전담팀이 유효성 검사를 거친 뒤 학습하도록 하고 있다.

이는 AI 챗봇의 딥러닝 약점을 악용하는 사례가 증가한 데 따른 조치다. 딥러닝은 컴퓨터가 데이터를 사람처럼 스스로 학습하는 인공 신경망 기반 기계 학습 기술을 말한다. 국내에서는 한 스타트업이 개발한 '이루다', 해외에서는 마이크로소프트가 개발한 '테이' 등 AI 챗봇이 잘못된 딥러닝 등이 성희롱, 소수자 혐오, 인종차별적 발언으로 문제가 된 바 있다. 보험사들인 이런 AI 챗봇의 문제가 사회적 문제로 불거져 고객 불신은 물론 회사 평판에도 상당한 악영향을 초래하는 만큼 대응이 필요하다는 주장이다.

업계 관계자는 “비대면으로 시간과 장소 제약 없이 다양한 서비스 경험을 원하는 소비자들이 늘면서 보험사는 물론 전산업에 AI 챗봇 도입은 선택이 아닌 필수로 자리 잡고 있다”면서 “다만 데이터를 기반으로 학습하는 AI 특성상 잘못된 데이터 학습은 사회적 문제, 더 나아가 소비자의 불신, 회사 평판에도 상당한 영향을 미치는 만큼 각 회사들이 더욱 심혈을 기울이고 있다”고 말했다.

박윤호기자 yuno@etnews.com