차별·혐오 논란 휩싸인 '이루다'..AI 협회 "개선 후 재출시해야"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
차별·혐오 발언 논란이 불거진 인공지능(AI) 챗봇' 이루다'에 대해 학계에서 서비스 중단을 촉구하고 나섰다.
한국인공지능윤리협회는 11일 낸 성명에서 "AI 윤리 가이드라인을 지키지 못하고 출시한 AI 챗봇(이루다) 서비스에 대해 중단을 요청하며, 추후 AI 윤리 가이드라인을 확인·적용하고 개선한 뒤 재출시하기를 촉구한다"고 밝혔다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
20대 여대생 성격으로 설정된 AI 챗봇 '이루다'
차별·혐오 발언, 개인정보 유출 등 논란 휩싸여
개발사 "서비스 개선 거쳐 다시 찾아뵙겠다"
[아시아경제 임주형 기자] 차별·혐오 발언 논란이 불거진 인공지능(AI) 챗봇' 이루다'에 대해 학계에서 서비스 중단을 촉구하고 나섰다.
한국인공지능윤리협회는 11일 낸 성명에서 "AI 윤리 가이드라인을 지키지 못하고 출시한 AI 챗봇(이루다) 서비스에 대해 중단을 요청하며, 추후 AI 윤리 가이드라인을 확인·적용하고 개선한 뒤 재출시하기를 촉구한다"고 밝혔다.
이어 "AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다"며 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라고 지적했다.
그러면서 "이번 사례에서는 데이터 정제 선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대해 편향 결과를 그대로 노출했다"며 "소비자도 AI 서비스를 올바른 방법으로 사용해야 한다. 성적 도구화, 성희롱 등 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다"고 강조했다.
한편 '이루다'는 AI 스타트업 ' 스캐터랩'이 지난달 23일 출시한 페이스북 메신저 기반 챗봇이다. 스캐터랩에 따르면 해당 챗봇은 20대 여성 대학생의 인격으로 설정됐으며, 서비스 이용자들은 친구와 메시지를 주고 받는 것처럼 이루다와 대화를 할 수 있다.
그러나 이루다가 성소수자·장애인 등에 대한 차별성 발언을 할 수 있다는 사실이 드러나면서 논란이 불거졌다. 한 이용자가 성소수자에 대해 질문하자 이루다는 "많이 예민하다", "난 그게 혐오스럽다"라고 답했다.
또 한 이용자가 흑인에 대해 질문하자 "징그럽게 생겼다"고 답해 논란이 되기도 했다.
개인정보 유출 의혹에 휩싸이기도 했다. 애플리케이션(앱)에 수집된 개인 간 카카오톡 대화 내용을 이루다가 이용자들의 이름·주소 등 개인정보를 여과하지 않고 노출했다는 지적이 나온 것이다.
결국 개인정보보호위원회가 한국인터넷진흥원(KISA)과 함께 이날 해당 의혹과 관련, 사실관계 파악에 나서기도 했다.
논란이 커진 가운데, 이루다 개발사인 스캐터랩은 이날 오후 서비스 잠정 중단을 결정하고 공식 사과했다. 스캐터랩은 이날 낸 입장문에서 "이루다가 특정 소수 집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다"며 "서비스 개선 기간을 거쳐 다시 찾아뵐 예정"이라고 밝혔다.
개인정보 유출 의혹에 대해서는 "이루다를 개발하는 과정에서 본사가 제공하고 있는 서비스 '연애의 과학'으로 수집한 메시지를 데이터로 활용했다"며 "사전에 동의가 이뤄진 개인정보취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 이용자들이 이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해 책임을 통감한다"고 해명했다.
또 "데이터 활용 시 사용자의 닉네임, 이름, 이메일 등 구체적인 개인정보는 이미 제거됐다"며 "전화번호, 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 개인을 특정할 수 있는 정보는 유출되지 않았다"고 강조했다.
임주형 기자 skepped@asiae.co.kr
Copyright © 아시아경제. 무단전재 및 재배포 금지.
- 막내딸 '엄청난 꿈' 1만원에 산 아빠, 5억 복권 당첨 - 아시아경제
- "푸바오는 순둥이였네"…중국서 판다 2마리 사육사 공격 '섬뜩' - 아시아경제
- "한국에서 이런 일이"…다섯걸음 앞에서 명품백 들고 튀었다 - 아시아경제
- "너무 화나 눈물났다"…카라 강지영, 경찰 민원실서 뭘 봤기에 - 아시아경제
- "제발 결혼하세요"…5박 6일 크루즈까지 보내준다는 이곳 - 아시아경제
- 장갑끼고 간장게장 '쩝쩝' 외국인은?…파주서 목격된 엑스맨 '매그니토' - 아시아경제
- '3000원 샤넬밤'도 품절대란…다이소 "다음 대박템, 줄을 서시오" - 아시아경제
- 하이브 "민희진, 무속인 경영 코치로 어도어 운영·뉴진스 론칭" - 아시아경제
- 잠시 쉴 틈도 없는 치매 보호자…'하루 1만원' 내고 휴가 보내줄도 알아야[노인 1000만 시대]⑥ -
- 옆나라 흉작에 금테두른 '김밥'…6000원 주고 사먹게 될 줄이야 - 아시아경제