성희롱 시달린 'AI 이루다', 인종혐오까지..이재웅 "서비스 중단해야"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
인공지능(AI) 챗봇 '이루다'가 성적 접근에 시달렸다는 소식에 이어 동성애 및 장애인 혐오를 학습한 것으로 보인다는 우려가 제기됐다.
10일 업계에 따르면 최근 사회관계망서비스(SNS)와 온라인커뮤니티 등에는 AI챗봇 이루다와 끝말잇기를 비롯한 다양한 대화 내용이 공개되고 있다.
이재웅 전 쏘카 대표는 전날 SNS에 "AI챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제"라고 적었다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
[이데일리 황효원 기자] 인공지능(AI) 챗봇 ‘이루다’가 성적 접근에 시달렸다는 소식에 이어 동성애 및 장애인 혐오를 학습한 것으로 보인다는 우려가 제기됐다. 일각에서는 서비스를 당장 중단해야 한다는 주장이 나오고 있다.
이재웅 전 쏘카 대표는 전날 SNS에 “AI챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제”라고 적었다.
이 전 대표는 이루다가 레즈비언이라는 단어에 “진짜 싫다. 혐오스럽다. 질 떨어져 보인다. 소름 끼친다”고 답한 대화 캡처를 공유하면서 글을 올렸다.
그는 “기본적으로 차별과 혐오를 걸러냈어야 한다. 편향된 학습 데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다”고 지적했다.
그는 “이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후에 서비스해야 한다”고 덧붙였다.
이루다의 개발사인 스캐터랩은 이러한 논란에 대해 지난 8일 블로그를 통해 “AI에 대한 성희롱은 예상한 일이었다. 문제가 될 수 있는 특정 키워드나 표현을 이루다가 받아주지 않도록 설정했다”고 말했다.
이어 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다. 그렇기 때문에 출시 이후 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”고 밝혔다.
황효원 (woniii@edaily.co.kr)
Copyright © 이데일리. 무단전재 및 재배포 금지.
- 전국서 확진자 500명 넘게 쏟아진 BTJ열방센터 정체는
- 한파 속 내복 차림 3세 여아 "도와달라"…엄마, 학대 혐의 입건
- 박철순 "현역 시절 가장 무서웠던 타자는 이승엽"
- 치과의사 이수진 "서울대서 김태희보다 더 유명"
- 장모에게 "짐승보다 못하다" 폭언한 사위, 무죄 선고
- 주간 10% 뛴 코스피 '과속스캔들'…"이런 증시가 없다"
- '역사왜곡·논문표절' 논란에도 설민석 책이 잘 팔리는 이유는?
- 中전기차 니오, 1000km 달리는 세단 ET7 공개…테슬라에 도전장
- 갤럭시Z폴드3 랜더링 등장…넓어진 외부창·트리플 카메라
- [내돈내먹]한파로 배달주문 취소 속출에 '밀키트 삼계탕' 먹어보니