스캐터랩 "이루다 알고리즘, 문장 속 실명 전부 못 걸러냈다"

개인정보 유출 사실상 인정하며 공식 사과.."익명화 절차 강화"

(서울=연합뉴스) 이효석 기자 = 인공지능(AI) 챗봇 '이루다'를 개발한 스타트업 스캐터랩이 "알고리즘으로 실명 필터링을 거쳤는데, 문맥에 따라 이름이 남아있는 부분이 있었다"고 인정하면서 사과했다.

스캐터랩은 12일 오후 보도자료를 통해 "이루다는 '연애의 과학'의 텍스트 데이터를 학습했다"며 "발화자 이름 등 개인정보는 삭제했다"고 밝혔다.

연애의 과학은 연인과 나눈 카카오톡 대화를 집어넣으면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여주는 앱이다. 스캐터랩이 2016년 출시했다.

스캐터랩은 연애의 과학으로 수집한 카톡 대화 약 100억건을 데이터로 삼아 이루다를 개발했다고 밝혀왔다.

연애의 과학 이용자들은 스캐터랩이 카톡 대화를 수집하면서 이루다 같은 챗봇 개발에 쓴다고 명확히 알리지 않았고, 익명 처리도 제대로 하지 않았다면서 집단소송을 추진하고 있다.

이날 자료에서 스캐터랩은 "이루다는 회원 정보와 연계돼있지 않은 별도 데이터베이스(DB)에 수록돼있는 문장으로 이용자에게 응답한다"며 "DB 문장을 조합해 개인을 특정하는 것은 불가능하다"고 설명했다.

연애의 과학으로 카톡 대화 약 100억건을 수집했고 이중 이루다에 쓸만한 문장 1억건을 추려서 별도 DB를 만들었으며, 1억개 문장은 익명화를 거쳐 독립적인 형태로 저장됐기 때문에 이루다의 발언을 조합해서 개인을 특정할 수는 없다는 설명이다.

그러나 스캐터랩은 "개별 문장 단위 대화 내용의 실명·영문·숫자 등의 정보는 알고리즘과 필터링으로 삭제했는데, 문맥에 따라 인물 이름이 남아있는 등의 부분이 발생했다"며 "더욱 세심히 주의를 기울이지 못했다"며 사과했다.

스캐터랩은 "서비스 출시 이후 민감할 수 있겠다고 판단된 부분들을 발견 즉시 내부 모니터링 팀에서 필터링하며 대응 중이었다"며 "다만 한글 등을 이용한 변칙적인 방법의 경우 모두 걸러내지 못했다"며 거듭 사과했다.

이들은 "실명·주소 필터링 알고리즘 강화, 대화 데이터 랜덤 변형을 통한 비식별화 강화, 민감 정보 노출 방지 알고리즘 전면적 개선 등을 업데이트할 예정"이라고 강조했다.

hyo@yna.co.kr

: ☞ 이휘재·문정원 층간소음 공개저격…안상태도 구설수; ☞ 양준일 팬들, 양준일 경찰 고발…무슨 일?; ☞ 15살 여친 프로필 나체사진으로 몰래 바꾸고 비번까지…; ☞ 성모 마리아상 박살낸 20대 "화풀이 대상 필요했다"; ☞ "간 파열 아동 신고받은 경찰 '결국 잘못된 것 아니잖아''"; ☞ 드라마 인연이 결혼까지…심은진-전승빈 부부 됐다; ☞ 부장 못달고 강등된 北김여정 거칠게 남측 비난…왜?; ☞ 손흥민, 절친 박서준 질문에 "차·박·손 중 최고는…"; ☞ 녹음기 숨겨 어린이집 보냈더니…학대 정황 드러나; ☞ '놀면뭐하니?' 싹쓰리, 세이브더칠드런에 2억원 기부

▶연합뉴스 앱 지금 바로 다운받기~

IT