인공지능윤리협회 "이루다, AI 윤리 어겼다"..서비스 중단 요구 성명

인공지능(AI) 챗봇 '이루다'가 혐오발언을 재생산하고 개인정보를 유출했다는 논란이 이어지는 가운데, 학계에서 첫 성명을 내고 서비스 중단을 요구했습니다.

한국인공지능윤리협회는 11일 성명서를 내고 "AI 윤리 가이드라인을 지키지 못하고 출시한 AI 챗봇 서비스의 중단을 요청한다"고 밝혔습니다.

협회는 "AI 기업은 기계학습 알고리즘을 적용할 경우 신뢰할 수 있고, 편향적이지 않으며, 합법적인 데이터를 선별하기 위해 노력해야 한다"며 "이번 사례에서는 데이터의 정제과정과 선별작업이 제대로 이루어지지 않아 AI 챗봇이 동성애와 장애인, 임산부 등에 대한 편향된 결과를 그대로 노출했다"고 지적했습니다.

또 AI를 악용하는 문제와 관련해 "AI 챗봇에 대한 사용자의 성적 도구화, 성희롱 등의 문제는 법적인 문제는 없더라도 윤리적인 문제는 분명하다"고 말했습니다.

비윤리적 행위를 챗봇에 죄의식 없이 하게 되면 결국 인간성 상실로 이어져 실제 인간에게도 그러한 행위를 할 가능성이 커진다는 설명입니다.

또 개인정보 유출 논란과 관련해서는 "AI 기업은 소비자로부터 데이터를 수집 받을 때, 사전에 동의를 구하거나 해당 내용을 명확히 고지해야 한다"며 "이번 사례에서는 명확한 고지가 없었고, 카카오톡 대화 안의 상대방들은 동의하지 않았기 때문에 상대방의 대화 내용과 개인정보를 그대로 이용한 것은 문제의 소지가 있다"고 말했습니다.

그러면서 협회는 "추후 AI 윤리 가이드라인을 확인 후 개선한 후 재출시하기를 촉구한다"고 밝혔습니다.

또 "이번 논란을 계기로 인공지능 윤리의 중요성과 당위성이 강조되는 계기가 되길 바란다"고 덧붙였습니다. 

( www.SBSCNBC.co.kr )

☞ SBSCNBC 공식 [페이스북][트위터][모바일 앱] 바로가기