AI 챗봇 '이루다' 서비스 잠정 중단.."개선 후 찾아올 것"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
음담패설 및 혐오발언 논란에 휘말린 인공지능(AI) 챗봇(대화하는 로봇) '이루다'가 서비스를 잠정 중단한다.
이루다 서비스를 개발한 스타트업 '스캐터랩'은 11일 입장문을 통해 음담패설과 차별·혐오발언 등이 일었던 것을 사과하며 "일정 시간 서비스 개선 기간을 거쳐 더 나은 모습으로 찾아뵙겠다"고 밝혔다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
개인정보 유출에는 "구체적 정보 이미 제거"
음담패설 및 혐오발언 논란에 휘말린 인공지능(AI) 챗봇(대화하는 로봇) '이루다'가 서비스를 잠정 중단한다.
이루다 서비스를 개발한 스타트업 '스캐터랩'은 11일 입장문을 통해 음담패설과 차별·혐오발언 등이 일었던 것을 사과하며 "일정 시간 서비스 개선 기간을 거쳐 더 나은 모습으로 찾아뵙겠다"고 밝혔다.
스캐터랩은 "특정 소수집단에 대해 차별적 발언을 한 사례가 생긴 것에 진심으로 사과드린다"며 "해당 발언들은 회사의 생각을 반영한 것이 아니며, 앞으로 차별·혐오 발언이 발견되지 않도록 개선하는 중"이라고 밝혔다.
개인정보 유출 의혹에 대해서는 "개인정보 취급 방침 범위 내에서 활용했지만, 이용자분들과 충분히 소통하지 못했다"며 "데이터 활용시 닉네임, 이름 등의 구체적인 개인정보는 이미 제거돼있으며, 개인을 특정할 수 있는 정보는 유출되지 않았다"고 해명했다.
그러면서 "이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것"이라며 "이번 학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획"이라고 덧붙였다.
이루다는 스타트업 스캐터랩이 지난달 23일 출시한 AI 챗봇으로 출시 약 2주 만에 이용자 40만명을 돌파하는 등 인기를 끌었다. 그러나 최근 이루다와 음담패설이나 혐오발언을 주고 받는 일부 이용자들의 대화 내용이 온라인 커뮤니티에 확산하면서 논란이 일었다.
여기에 이루다 개발에 빅데이터로 쓰인 '연애의 과학' 응용 소프트웨어(앱) 이용자들은 스캐터랩이 별다른 설명없이 개인정보를 활용하고 이 과정에서 익명화 처리도 제대로 되지 않았다며 집단 소송을 예고했다. 연애의 과학은 스캐터랩이 2016년 출시한 앱으로 연인과 나눈 카카오톡 대화를 넣으면 답장 시간 등 대화 패턴을 분석해 애정도 수치를 보여준다. 이루다는 연애의 과학 이용자들의 메시지 약 100억건을 학습시켜 개발한 것으로 알려졌다.
이소라 기자 wtnsora21@hankookilbo.com
Copyright © 한국일보. 무단전재 및 재배포 금지.
- 조응천 "강성 지지층에 영합하면 민주당 나락에 빠져"
- 의사회 "정인이 췌장 절단되려면 황소에 부딪친 충격 있어야"
- "PD가 결혼 숨기고 구애" 취준생 주장... KBS "감사 착수"
- "'선 넘은' 유승준 유튜브도 제재해야"... 청와대 청원 등장
- 수의 대신 배냇저고리, 병원에 방치됐다 떠난 6개월 소민이
- 한파에 내복 차림으로 쫓겨난 아이 또…경찰, 친모 학대 혐의로 입건
- "트럼프, 돈도 벌지 못하게..." 美 재계·문화계 대통령 손절 확산
- 정부 "코로나 백신 전국민 무료 접종 가닥"
- "그렇게 자신감이 없나!" '안철수 의존증' 호통친 김종인
- '아빠 만나러 간 6명, 신혼부부'... 인니 여객기 안타까운 탑승객들