"이루다 혐오 논란은 예정된 참사"..시민단체, 개발 위주 AI산업 육성 비판

참여연대 등 시민단체, "관련 데이터 모두 폐기" 촉구
"AI 제품에 대한 구체적, 명료한 법적 규범 마련해야"

[이데일리 이소현 기자] 인공지능(AI) 챗봇 ‘이루다’의 혐오 논란과 개인정보 유출 의혹으로 논란이 불거진 가운데 시민단체는 “기업을 위한 ‘데이터 3법’ 등 개발에만 치중한 AI 산업육성으로 이루다는 예정된 참사”였다고 진단하며, “관련 데이터를 모두 폐기해야 한다”고 주장했다. 이와 함께 AI 제품에 대한 구체적이고 명료한 법적 규범 마련을 촉구했다.

스캐터랩이 운영한 AI 챗봇 서비스 ‘이루다’

13일 참여연대와 민주사회를 위한 변호사모임, 디지털정보위원회, 정보인권연구소, 진보네트워크센터 등은 성명을 통해 “개인정보 보호법에 따르면 해당 대화 내용 데이터 수집과 이용에 문제가 있다”며 “불법이 드러나면 정보주체의 요청 없이도 해당 개인정보를 바탕으로 만들어진 챗봇 모델과 알고리즘의 폐기가 마땅하다”고 밝혔다.

대화형 챗봇 이루다를 개발·운영하는 스캐터랩은 2013년 텍스트앳, 2016년 연애의 과학 등의 애플리케이션을 운영하며 카카오톡 등 메신저의 대화 내용을 수집했고, 이를 자사 다른 제품인 대화형 챗봇 이루다의 학습용 데이터로 이용한 것으로 나타났다.

시민단체는 스캐터랩의 이러한 사업 방식에 문제가 있다고 봤다. 단체는 “본인이 제공한 대화 내용이 챗봇의 학습 데이터로 이용될 거라고 예상한 사람이 어디 있을지 의문”이라며 “정보주체에 충분히 설명하지 않고 충분히 인지되지 않은 동의는 제대로 된 동의라고 보기 어렵다”고 지적했다.

이어 대화 상대방의 동의가 없었다는 점도 지적했다. 단체는 “사용자들이 분석을 위해 제공한 카카오톡 대화는 2인 이상의 대화”라며 “개인정보 보호법 제15조 또는 제39조의3제1항에 따라 마땅히 받아야 할 대화 상대방에 대한 동의 절차는 어디에도 없었다”고 비판했다.

단체는 이어 “민감정보와 고유식별정보는 정보주체의 명시적인 동의나 법령상 허용조항 없이는 누구도 수집하거나 이용할 수 없다”며 “연애의 과학은 이에 대한 별도 동의를 받지 않았고, 스캐터랩과 애플리케이션의 유료 기능의 개인정보 처리방침 어디에도 고지되지 않았다”고 꼬집었다.

특히 단체는 이번 논란의 핵심은 ‘데이터 3법’의 문제라고 지적했다. 이 법은 데이터산업 호라성화를 위해 지난해 8월부터 시행됐는데, 개인 식별이 어렵도록 가공한 ‘가명정보’를 통계 작성·공익적 기록 보존·과학적 연구 등에 정보 소유자 사전 동의 없이 사용할 수 있도록 하는 것이 골자다. 하지만 기업의 상업 제품 개발을 위해 정보주체의 기본권을 우시하며 가명정보를 무제한적으로 이용하는 것은 위헌이라는 게 이들 단체의 주장이다.

단체는 “정보주체의 권리를 보장하기 위해서는 현 가명정보에 면제한 열람권, 삭제권 등을 보장하는 방향으로 법 개정이 있어야 할 것”이라며 “최근 정부와 기업이 오히려 데이터 산업의 발전을 명분으로 현재의 사전 동의 조항을 더 완화하는 법 개정을 추진하고 있다는 데 대해 우려한다”고 덧붙였다.

이들 단체는 AI 산업 활성화 이전에 ‘인공지능 규제법’이 필요하다고 목소리를 높였다. 단체는 “개인정보를 보호해야 할 대상이 아닌 경제적 관점과 활용 대상으로만 바라보는 기업의 관행은 국민이 신뢰할 수 없는 인공지능 기술로 이어질 것”이라며 “정부와 국회의 관련 정책 입안자들에 대해 소비자와 이용자의 권리를 침해하는 인공지능 제품의 규제를 위해 법률적 대책을 마련하라”고 촉구했다.

스캐터랩이 운영한 AI 챗봇 서비스 ‘이루다’ 사태 일지(표=이데일리 문승용 기자)

이소현 (atoz@edaily.co.kr)