AI윤리협 "이루다 서비스 중단해야..개선하고 재출시하라" 촉구

한국인공지능윤리협회가 스캐터랩의 인공지능(AI) 챗봇 서비스 '이루다'에 대해 "AI 윤리 가이드라인을 지키지 못하고 출시됐다"며 서비스 중단을 요청했다. © 뉴스1

(서울=뉴스1) 김정현 기자 = 한국인공지능윤리협회가 스캐터랩의 인공지능(AI) 챗봇 서비스 '이루다'에 대해 "AI 윤리 가이드라인을 지키지 못하고 출시됐다"며 서비스 중단을 요청했다.

11일 한국인공지능협회는 성명서를 통해 "인공지능 윤리 가이드라인을 지키지 못하고 출시한 AI 챗봇 서비스에 대해 서비스 중단을 요청한다"며 "추후 AI 윤리 가이드라인을 확인하고 적용하고 개선한 후 재출시하기를 촉구한다"고 발표했다.

이들은 이번 사안에 대해 ΔAI 편향성 ΔAI 개인정보 유출 ΔAI 오용·악용 등 세가지 문제를 짚었다.

이번 서비스의 '편향성'에 대해 "AI 챗봇이 동성애와 장애인, 임산부 등에 대한 편향된 결과를 그대로 노출했다"며 "신뢰할 수 없고, 편향적이며, 불법적인 데이터로 만들어진 AI 제품과 서비스는 인간에게 잘못된 정보와 인식을 심어주는 악영향을 미친다"고 우려했다.

스캐터랩의 개인정보 유출 문제에 대해서는 "개인의 카카오톡 대화내용과 그 속에 담긴 개인정보를 AI 챗봇을 학습시키는 데이터로 활용한다는 명확한 고지가 없었다"며 "(동의하지 않은) 대화 상대방의 대화 내용과 개인정보를 그대로 AI 학습에 이용한 것은 분명한 문제의 소지가 있다"고 지적했다.

또 AI 오용·악용에 대해서도 "AI 챗봇에 대한 사용자의 성적도구화, 성희롱 등의 문제는 법적인 문제는 없더라도 윤리적인 문제는 분명히 있다"며 "성적도구화하고 학대하는 행위 자체가 잘못된 것"이라고 주장했다.

협회는 "AI 기술은 인간의 편익과 행복을 위한 기술이지만 잘못 개발되거나 사용될 때의 인간에게 미치는 위험성과 역작용이 막대할 수 있다"며 "AI 기업들은 AI 제품과 서비스 출시 전 인공지능 윤리헌장 등 AI윤리 가이드라인을 확인하고 적용한 후 출시해야 한다"고 강조했다.

Kris@news1.kr