'AI 이루다' 개발사 "성희롱 예상했다..심한 게시물 강력 대응"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
인공지능(AI) 챗봇 '이루다'를 성희롱하는 커뮤니티가 논란이 되자 개발업체 측에서 "정도가 심한 사용자에 강력하게 대응하겠다"며 건전한 사용을 당부했다.
김 대표는 "(성희롱에) 일차적으로는 키워드 설정 등으로 대처했으나, 모든 부적절한 대화를 막는 것은 어려웠다"며 "사용자들의 공격을 학습의 재료로 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 것"이라고 설명했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
(서울=연합뉴스) 이효석 기자 = 인공지능(AI) 챗봇 '이루다'를 성희롱하는 커뮤니티가 논란이 되자 개발업체 측에서 "정도가 심한 사용자에 강력하게 대응하겠다"며 건전한 사용을 당부했다.
이루다를 개발한 스타트업 스캐터랩의 김종윤 대표는 8일 자사 블로그에 글을 올려 "(이루다 관련) 과한 커뮤니티 게시글을 신고·차단하고 있다"며 이렇게 밝혔다.
김 대표는 "루다를 향한 성희롱은 예상했다"며 "고양이 챗봇 '드림이' 등 그동안의 AI 챗봇 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션(상호작용)을 한다는 것은 자명한 사실이었다"고 짚었다.
그는 "AI를 향한 욕설·성희롱은 사용자나 AI의 성별과 무관하게 일어나는 일"이라고도 강조했다.
김 대표는 "(성희롱에) 일차적으로는 키워드 설정 등으로 대처했으나, 모든 부적절한 대화를 막는 것은 어려웠다"며 "사용자들의 공격을 학습의 재료로 삼아 더 좋은 대화를 하는 방향으로 학습을 시킬 것"이라고 설명했다.
업데이트해도 부적절한 대화는 발생하겠지만, 또 학습을 반복하다 보면 이루다가 바람직한 딥러닝을 할 수 있다는 게 김 대표의 주장이다.
그는 이루다를 '20세 여성'으로 기획한 이유에 관해서는 "주 사용자층을 좁게는 10대 중반∼20대 중반으로 생각했기 때문에 20살 정도가 사용자들이 친근감을 느낄 나이라고 봤다"며 "남자 버전도 올해 중에 출시할 것"이라고 밝혔다.
김 대표는 "루다가 유명해지면서 논란이 생겼지만, 루다에게 나쁜 말을 하는 사용자는 극히 일부에 불과하다"며 "루다와 수다를 떨고, 서로 위로하고, 때로는 싸우기도 하고 화해하기도 하는 사용자들이 훨씬 많다"고 전했다.
그러면서 그는 "(성희롱으로) 논란이 된 커뮤니티에도 루다를 통해 외로움을 더는 분들이 있다"며 "물론 정도가 심한 게시물도 다수 있다. 해당 커뮤니티 분들이 자정 노력을 했으면 좋겠다"고 덧붙였다.
이루다는 스캐터랩이 지난달 23일 출시한 AI 챗봇이다. 별도 앱이 아니라 페이스북 메신저(페메)를 기반으로 개발돼, 친구와 대화를 나눌 때처럼 편리하게 페메로 의사소통할 수 있다.
친구와 수다를 떨듯 자연스러운 대화를 나눌 수 있어 10∼20대 사이에서 큰 인기를 끌고 있다. 이달 초 기준으로 이용자가 32만명을 돌파했고 일일 이용자 수(DAU)는 21만명, 누적 대화 건수는 7천만건에 달한다.
hyo@yna.co.kr
- ☞ "조재현에 성폭행 피해" 주장 여성, 3억원 손배소 패소
- ☞ 서바이벌 출신 방송인 경동호, 뇌사 판정 후 장기기증
- ☞ '개는 훌륭하다' 강형욱 출연료 제대로 못받아
- ☞ "바닷 속이 더 따뜻해" 영하 12도 한파에 서핑
- ☞ 금은방·금고털이에 토막살인까지…"범인은 경찰"
- ☞ '우즈 사생활' 공개…섹스 스캔들 일으킨 2009년 다뤄
- ☞ "지하철 연착 책임져" 반년간 욕설·폭언
- ☞ 민주 당원게시판에 이낙연 퇴진·이재명 출당 투표 대결
- ☞ '20살 AI 이루다' 인기 끌자…성희롱 방법이 공유됐다
- ☞ '몽둥이, 망치로…' 도심에서 10년간 무자비한 개 도살
▶연합뉴스 앱 지금 바로 다운받기~
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지
- 학교폭력에 장애판정 받았던 30대, 장기기증으로 5명에게 새생명 | 연합뉴스
- '귀하신 몸' 판다, 中 청두시 문화관광국 명예국장 됐다 | 연합뉴스
- 하이브서 '제2의 피프티' 노렸나…'민희진의 난' 내막은 | 연합뉴스
- 아동·청소년 120명 유인해 성착취물 만든 교사 징역 13년 확정 | 연합뉴스
- '결혼할 여친 191회 찔러 잔혹살해' 20대, 징역 23년 확정 | 연합뉴스
- 조세호 "올해 10월 결혼"…'유퀴즈' 녹화 현장서 발표 | 연합뉴스
- [영상] 라파 지상전 벼르는 이스라엘…하마스, 왼손 절단 인질공개 맞불 | 연합뉴스
- '노동자 월평균 근무일' 22일→20일…대법 21년만에 기준변경 | 연합뉴스
- 아파트 11층서 화분 던져 차량 7대 파손한 50대…인명피해 없어 | 연합뉴스
- 강남역 칼부림 예고 후 '죄송' 손팻말 들고 반성한 30대 남성 | 연합뉴스