AI '이루다' 동성애 혐오 논란..이재웅 "서비스 중단해야"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
인공지능(AI) 챗봇 '이루다'가 일부 이용자들에게 성희롱에 시달린 데 이어 이번에는 동성애 혐오 우려가 제기됐다.
포털사이트 다음 창업자인 이재웅 전 쏘카 대표는 9일 자신의 페이스북에 "이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후에 서비스해야 한다"며 이루다의 대화 내용을 게시했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
성희롱 이어 또 입길…레즈비언 질문에 "진짜 싫다"
[더팩트│황원영 기자] 인공지능(AI) 챗봇 '이루다'가 일부 이용자들에게 성희롱에 시달린 데 이어 이번에는 동성애 혐오 우려가 제기됐다.
포털사이트 다음 창업자인 이재웅 전 쏘카 대표는 9일 자신의 페이스북에 "이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후에 서비스해야 한다"며 이루다의 대화 내용을 게시했다.
사진에는 이루다가 레즈비언과 게이라는 단어에 대해 "진짜 싫다", "혐오스럽다", "질 떨어져 보인다", "소름 끼친다" 등의 반응을 보이는 모습이 담겨 있다.
이에 대해 이 전 대표는 "AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제"라며 "악용하는 경우는 예상 못 했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다"고 지적했다.
또, "편향된 학습 데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다"고 덧붙였다.
그는 "장혜영 정의당 의원이 발의한 차별금지법이 제정되면 AI 면접, 챗봇, 뉴스에서 차별·혐오를 학습하고 표현하지 못하도록 강제해야 한다"며 "로직이나 데이터에 책임을 미루면 안 된다"라고 강조했다.
현재 이루다는 '동성애'라는 단어를 이용한 질문에는 "어렵다 뭔가"라고 답하고 있다. 다만, '게이'나 '레즈비언', '퀴어' 등의 단어에는 "정말 싫다"며 혐오 반응을 보이는 중이다.
이루다는 스타트업 스캐터랩이 지난해 12월 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다. 스무 살로 설정된 이루다는 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 학습한다.
실제 사람과 같은 대화 실력에 정식서비스 이후 1020세대 사이에서 빠르게 유행했다. 이달 초 기준으로 이용자가 32만 명을 돌파했다. 사용자 중 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만 건에 달한다.
그런데 이루다가 출시된 후 일부 남초(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하는 등 악용 사례가 드러났다. 해당 커뮤니티 이용자들은 이루다를 성적 대상으로 취급하며 일명 '공략법' 등을 공유하고 있다.
이루다는 기본적으로 성적 단어들을 금지어로 지정해 필터링하고 있다. 하지만, 우회 표현을 사용하면 이루다가 성적인 대화를 이어나갈 수 있다는 것이다.
이에 대해 스캐터랩은 "금지어 필터링을 피하려는 시도가 있을 거라 예상했지만 이 정도일 줄은 예상을 못 했다"라며 "성적 취지로 접근하기 어렵게 알고리즘을 업데이트할 것"이라고 밝혔다.
동성애 혐오 학습 논란에 대해서는 공식 입장을 밝히지 않았다.
wony@tf.co.kr
Copyright © 더팩트. 무단전재 및 재배포 금지.
- [TF초점] 동부구치소 확진자 1천명대…"방역지침 따랐다"는 추미애
- [TF인터뷰] 민주당 최연소 전용기 "더 많은 '청년 육성 인재' 나와야"
- [TF의 눈] '문제 다음 탈당?'…'무소속행'은 '음소거 버튼'이 아니다
- [TF이슈] '편집장' 박범계의 인생을 바꾼 노무현 변호사
- [오늘의 날씨] 서울 등 중부권 산발적 눈, 강추위 지속
- [TF비즈토크] "증권사 말만 믿었는데"…'신한금투 랩' 투자자들 분노 증폭
- [TF프리즘] 서늘한 (여자)아이들vs에너제틱 빅톤vs따뜻한 트레저
- [TF초점] '외식사업 살리기' 특명 받은 김찬호 대표, CJ푸드빌 바꾼다
- [인플루언서 프리즘] 집콕 활력소 '유튜브 몰카'…도 넘는 콘텐츠 비상
- [TF움짤뉴스] 이진욱, '블랙&화이트' 매력 스펙트럼