이루다 말 속에 실존 이름·주소 버젓이..이용자들 "법적 대응"

[경향신문]

챗봇 이루다

업체가 수집한 연인 간 대화AI가
데이터 100억건 학습

통보 없이 개인정보 활용
대화 상대방 동의도 안 받아
정부 기관도 진상조사 착수
업체 “서비스 잠정 중단”

인공지능(AI) 윤리 논쟁을 촉발한 AI 챗봇 ‘이루다’ 서비스 제공에 개인정보보호법 등 현행법 위반 소지가 있다는 비판이 제기됐다. 이용자들은 11일 개발 업체를 상대로 법적 대응에 나섰고, 한국인터넷진흥원과 개인정보보호위원회 등 정부 기관도 진상조사에 착수했다. 업체는 이루다 출시 20일 만인 이날 서비스 잠정 중단을 발표하는 한편 위법 가능성이 제기된 개인정보 유출 및 활용에 대해서는 선을 그었다.

AI 전문 스타트업 스캐터랩이 지난달 출시한 이루다는 실제 연인들이 나눈 대화 데이터 100억건을 딥러닝(컴퓨터가 인간의 뇌처럼 사물이나 데이터를 분류할 수 있도록 하는 기계학습의 일종) 방식으로 학습했다. 스캐터랩은 해당 데이터를 자사의 연애 정보 애플리케이션(앱) ‘연애의 과학’을 통해 수집했다. 이 앱은 이용자와 연인 사이의 카카오톡 대화 내용을 분석해 상대방의 감정 상태를 알려주는 서비스다.

법 위반 의혹은 주로 연애의 과학에서 이루다로 이용자 데이터가 넘어가는 과정에서 발생한다. 두 사람의 대화 내용이 연애의 과학 이용자인 일방에 의해 제3자(스캐터랩)에게 제공됐고, 이 정보가 상업 목적으로 활용됐기 때문이다. 연인의 감정 분석을 위해 넘겨진 데이터이므로 대화 상대방의 동의를 구하지 않았을 가능성이 높다. 오병일 진보네트워크 대표는 “2인 이상 대화는 정보 제공에 동의한 한쪽 당사자만의 정보가 아니다”라며 “나머지 당사자의 개인정보 자기결정권 침해(개인정보보호법 위반)로 볼 수 있다”고 말했다.

인공지능 챗봇 ‘이루다’에 쓰인 개인정보가 익명화 되지 않은 채 대화가 이뤄진 모습. 맨 오른쪽은 이루다 개발사인 스캐터랩이 2016년 출시한 앱 ‘연애의 과학’.

이용자들의 대화 내용을 넘겨받으면서 향후 활용 여부를 제대로 알리지 않은 부분도 문제다. ‘연애의 과학’ 이용약관에는 ‘이용자 정보를 신규 서비스 개발에 이용할 수 있다’는 내용만 있을 뿐, 어떤 서비스에 활용하는지 안내가 없다. 앱 가입 이후 대화 내용을 넘길 때 정보 활용과 관련한 ‘동의’도 받지 않았다. 김가연 변호사는 “개인정보 취급 방침을 고지한 후 카카오톡 대화 내용 제공 시 팝업 등을 통해 관련 동의를 받지 않았다면 개인정보보호법 위반 가능성이 높다”고 했다.

약관의 부실함도 지적됐다. 곽소영 변호사는 “개인정보보호법은 ‘수집 목적과 합리적으로 관련된 범위에서 정보 주체에게 불이익이 발생하는지 등을 고려해 동의 없이 이용할 수 있다’고 규정한다”며 “챗봇 개발에 활용한 것이 법이 명시한 ‘합리적 범위 내’인지 따져봐야 한다”고 말했다.

이루다를 통해 이용자들의 개인정보가 유출되고 있다는 의혹도 제기됐다. 이루다와 대화 중 실재하는 아파트 동·호수와 계좌 정보 등을 말하는 모습이 목격됐다. 개인정보보호법은 정보 처리자가 개인정보를 활용할 때 특정 개인을 알아볼 수 없도록 비식별화 작업을 거치도록 한다. 전문가들은 위법 여부를 따지는 데 개인정보가 공개된 ‘맥락’이 중요하다고 평가했다. 서채완 변호사는 “어떤 정보가 추가 정보와 결합해 개인 식별이 가능해질 때 개인정보로 본다”고 말했다. 하지만 주소나 계좌번호 등이 불특정 다수에게 퍼져 2차 피해로 이어질 가능성도 있다.

스캐터랩은 이날 입장문에서 “일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다”며 “사전에 동의가 이뤄진 개인정보 취급방침 범위 내에서 활용한 것”이라고 밝혔다.

연애의 과학 이용자들은 법적 대응을 준비 중이다. 이날 꾸려진 복수의 카카오톡 오픈채팅방에 이용자들이 피해 상황을 공유하고 과거 앱 사용 및 결제내역 자료를 모으고 있다. 한국인터넷진흥원과 개인정보보호위원회도 공동조사에 착수했다.

최민지·박채영 기자 ming@kyunghyang.com