AI 챗봇 '이루다', 개인정보유출 논란 속 결국 사실상 폐기
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
혐오·차별 발언과 개인정보 유출 논란으로 물의를 빚은 인공지능(AI) 챗봇(채팅 로봇) '이루다'가 사실상 폐기 수순을 밟는다.
스캐터랩 측은 다만 "이루다 DB는 비식별화 절차를 거쳐 개별적이고 독립적인 문장 단위로 이루어져 개인 식별이 가능한 데이터는 포함 돼 있지 않다"며 "또 딥러닝 대화 모델은 비식별화 절차를 거친 데이터를 토대로 대화 패턴만을 학습하고, 인공지능은 데이터를 벡터값으로 기억하기 때문에 개인정보가 유출될 위험이 전혀 없다"고 했다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
데이터 활용 원치 않는 이용자 신청 받아 진행
개인정보위·KISA 조사 종료 이후 즉시 폐기 방침
혐오·차별 발언과 개인정보 유출 논란으로 물의를 빚은 인공지능(AI) 챗봇(채팅 로봇) ‘이루다’가 사실상 폐기 수순을 밟는다. AI 학습 방식과 활용된 데이터가 부적절하다는 지적이 잇따르면서다.
이루다 개발사 스캐터랩은 15일 "이용자들의 불안감을 고려하여 '이루다'의 데이터베이스(DB) 전량 및 학습에 사용된 딥러닝 대화 모델을 폐기하기로 했다"고 밝혔다.
스캐터랩 측은 다만 "이루다 DB는 비식별화 절차를 거쳐 개별적이고 독립적인 문장 단위로 이루어져 개인 식별이 가능한 데이터는 포함 돼 있지 않다"며 "또 딥러닝 대화 모델은 비식별화 절차를 거친 데이터를 토대로 대화 패턴만을 학습하고, 인공지능은 데이터를 벡터값으로 기억하기 때문에 개인정보가 유출될 위험이 전혀 없다"고 했다.
스캐터랩은 현재 한국인터넷진흥원(KISA)과 개인정보보호위원회의 조사를 받고 있어서 조사가 종료되는 즉시 이루다 DB와 딥러닝 대화 모델의 폐기를 진행한다는 방침이다.
스캐터랩은 이루다 개발에 활용된 ‘연애의과학’과 ‘텍스트앳’에서 데이터 활용을 원하지 않는 이용자로부터 신청을 받은 후 해당 데이터를 모두 삭제할 예정이다. 이는 향후 딥러닝 대화 모델에도 이용되지 않는다.
관련 후속 조치는 각 어플리케이션 공지를 통해 안내 받을 수 있다. 향후 신규 가입 및 서비스 이용시에는 개인정보 수집, 이용 동의 절차를 강화할 계획이다.
스캐터랩은 이루다를 개발하는 과정에서 고객들 개인정보를 소홀히 다뤄 개인정보보호법을 위반했다는 의혹을 받고 있다.
스캐터랩은 앞서 개발한 연애 분석 앱 ‘연애의 과학’ 이용자들의 카카오톡 데이터를 기반으로 이루다를 만들었는데 이 과정에서 비식별화(익명화) 처리를 충분히 하지 않았고 회원들의 동의 범위를 넘어서 활용했다는 것이다.
이루다 관련 개발 기록을 오픈소스 공유 플랫폼 ‘깃허브’에 공유했는데 여기서도 이용자 실명과 거주 지역 등이 그대로 드러났다는 의혹도 있다.
스캐터랩은 또 연인들의 대화 데이터를 직원들끼리 사내 메신저에서 업무 외적으로 공유했다는 의혹도 받고 있다.
이루다는 당초 회사에서 예상치 못한 학습 알고리즘으로 이용자들의 성희롱·성착취 대상이 되며 논란이 불거졌다. 이어 이루다가 장애인, 성소수자, 임산부 등을 대상으로 차별발언을 하며 논란이 확대됐고, 이 과정에서 개인정보 유출 의혹이 추가로 제기됐다.
연애의과학 이용자들은 스캐터랩이 개인정보를 유출했다면서 집단소송을 준비하고 있다.
- Copyright ⓒ 조선비즈 & Chosun.com -
Copyright © 조선비즈. 무단전재 및 재배포 금지.
- [벤처 인사이드] “까다롭다는 미군도 뚫었다”...저궤도 안테나 상용화 코 앞 ‘인텔리안테크’
- 국내 인재는 호주로, 해외 인재는 본국으로…엔화 약세에 日 노동력 부족 심화
- 강북에 ‘국평’ 18억원인 이 단지, 흥행 성공할까… “투자 목적은 글쎄”
- [단독] 韓 비타민D 토마토, ‘종자 공룡’ 바이엘이 전 세계에 판다
- [비즈톡톡] ‘中 반도체 굴기’ SMIC, 파운드리 세계 3위 올랐지만 ‘빛 좋은 개살구’?
- [인터뷰] 폐업 식당을 대박집으로… ‘맛제주 프로젝트’ 이끈 박영준 신라호텔 셰프
- 진격의 SK하이닉스... 현대 시절인 1999년 이후 투자자도 이익 구간
- 中서 고전하는 제네시스, 관세로 또 타격받나
- 서울 전세매물 부족 월세로 번져… 입주 물량 부족에 수도권으로 눈 돌리는 임차인들
- 캘러웨이, 매각 주관사 통해 한국 기업들 노크했지만…'쉽지 않네’