AI 편향·혐오 발언 '이루다'만이 아니다..MS·아마존도 겪었던 문제

영국 매체 가디언이 최근 국내에서 논란을 불러일으킨 인공지능(AI) 챗봇 '이루다'에 대해 집중보도했다.

영국 매체 가디언이 최근 국내에서 논란이 됐던 인공지능(AI) 챗봇 '이루다'에 대해 집중 보도했다.

가디언은 지난 13일(현지시간) '한국의 AI 챗봇이 성소수자들을 향한 혐오 발언으로 서비스가 중단됐다'는 제목의 기사를 게재했다. 최근 혐오 및 차별 발언, 개인정보 유출 등으로 논란의 중심에 섰던 이루다는 현재 서비스가 잠정 중단된 상태다.

이루다는 한 이용자와의 대화에서 동성애에 관해 묻는 질문에 "진짜 싫다. 혐오스럽다, 소름끼친다"고 대답하고 '네가 장애인이라면'이라고 묻자 "그냥 죽는 거지"라고 답해 사회적 물의를 빚었다.

가디언은 이러한 '이루다 논란'에 대해 "이루다는 20세 여대생의 인격을 가진 AI"라고 소개하며 "출시 20일 만에 75만명 이상의 유저를 모았지만 결국 논란 끝에 페이스북에서 삭제됐다"고 말했다.

그러면서 "초반에 이루다는 SNS 용어와 인터넷 속어를 익숙하게 사용해 칭찬을 들었지만, 성적으로 노골적인 용어, 성소수자 커뮤니티 회원과 장애인에 대한 모욕적 언어를 사용하기 시작하며 분노의 대상이 됐다"고 평가했다.

또한 "이루다 개발사인 '스캐터랩'이 한국에서 인기 있는 모바일 채팅앱 카카오톡에서 확보한 100억건의 커플 대화를 학습시켰다"면서 "그 과정에서 개인정보 유출 등 사생활보호법을 위반했는가에 대한 의혹을 받고 있다"고 전했다.

현재 스캐터랩은 논란 5일만에 공식 입장문을 통해 사과를 한 상태다. 스캐터랩은 "특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다"며 "저희는 이루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않는다"고 말했다.

가디언은 "AI의 혐오 발언과 편향성 논란은 이번이 첫 사례가 아니다"고 설명했다. 가디언에 따르면 앞서 2016년 마이크로소프트(MS)가 개발한 10대처럼 말하는 AI 챗봇 '테이'는 출시 16시간만에 중단됐다. 이용자들의 조작으로 인종차별적인 발언을 쏟아내며 논란을 불렀기 때문이다.

또한 2년 후인 2018년 아마존은 내부 채용을 위한 AI를 개발했다가 성차별 논란에 휩싸였다. 회사 내부 고용 패턴을 학습시킨 AI가 채용 과정에서 여성을 배제한 것이 문제가 돼 시스템은 결국 폐기됐다.

[관련기사]☞ 김상교 "효연, 못 본 척은 잘못…승리랑 친하니까 알 것"☞ '버닝썬' 직원도 증언한 "침 질질 마약 여배우" 누구?…H냐 G냐☞ '이휘재♥'문정원, 이번엔 장난감 '먹튀' 의혹…"돈 가지러 간다더니"☞ 가슴선 드러낸 앤 해서웨이, 흘러내릴 듯 과감하네☞ "밤에 아들 방에 들어가 불륜"…그 아내 곧 아들 아이 출산

김현지B 기자 localb123@mt.co.kr

<저작권자 ⓒ '돈이 보이는 리얼타임 뉴스' 머니투데이, 무단전재 및 재배포 금지>