인공지능윤리협회 "이루다, AI 윤리 어겼다..서비스 중단해야"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
인공지능(AI) 챗봇 '이루다'가 동성애·장애인 혐오 및 성차별을 학습했다는 문제가 제기되면서 'AI 윤리' 논쟁이 불거지자 학계에서 "이루다 서비스를 중단하라"는 첫 성명이 나왔다.
한국인공지능윤리협회는 11일 성명서를 내 "AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다"며 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라고 짚었다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
"소비자도 AI 윤리적으로 사용해야..초중고 AI 윤리 교육 필요"
(서울=연합뉴스) 이효석 기자 = 인공지능(AI) 챗봇 '이루다'가 동성애·장애인 혐오 및 성차별을 학습했다는 문제가 제기되면서 'AI 윤리' 논쟁이 불거지자 학계에서 "이루다 서비스를 중단하라"는 첫 성명이 나왔다.
한국인공지능윤리협회는 11일 성명서를 내 "AI 챗봇으로 인해 AI의 편향성, 개인정보 유출, 악용 등 AI 윤리 문제가 논란이 됐다"며 "AI 서비스를 만드는 기업들과 이용자들이 AI 윤리 필요성과 중요성을 아직 인식하지 못하는 상황"이라고 짚었다.
협회는 "AI에 학습되는 빅데이터는 신뢰할 수 있고 편향적이지 않아야 한다"며 "이번 (이루다) 사례에서는 데이터 정제·선별 작업이 제대로 이뤄지지 않아 AI 챗봇이 동성애·장애인 등에 대한 편향 결과를 그대로 노출했다"고 지적했다.
그러면서 협회는 "AI 제품과 서비스는 출시 전 충분한 품질 검사를 거치고, 중립적인 기관의 검수도 거쳐야 한다"며 "AI는 기계학습 과정에서 인간이 예측하기 어려운 결과물을 내놓기 때문"이라고 설명했다.
이들은 이루다를 둘러싼 개인정보 유출 의혹에 관해서는 "카카오톡 대화를 챗봇 학습 데이터로 활용한다는 명확한 고지가 없었다"며 "카톡 대화의 상대방들은 개인정보 제공에 동의하지 않았기 때문에 문제 소지가 있다"고 의견을 냈다.
협회는 이루다 서비스를 중단해야 한다면서 "AI 윤리 가이드라인을 적용해 개선한 다음 재출시해야 한다"고 촉구했다.
협회는 "소비자도 AI 서비스를 올바른 방법으로 사용해야 한다"며 "성적 도구화, 성희롱 등의 문제는 법적 문제는 없어도 윤리적 문제가 분명히 있다"고 비판했다.
AI 챗봇이든 무엇이든 성적 도구화 및 학대는 그 행위 자체로 잘못된 것이기 때문에, 이를 죄의식 없이 하게 되면 인간성 상실로 이어져 실제 인간에게도 비슷한 행위를 할 가능성이 커진다는 게 AI윤리협회의 지적이다.
협회는 "초·중·고 청소년 시기부터 AI 개발 및 사용 윤리를 가르치고, 새로운 AI 윤리 이슈를 모든 시민에게 교육해야 한다"며 "AI는 인간의 편익과 행복을 위한 기술이지만, 잘못 개발·사용되면 위험성과 역작용이 막대할 것"이라고 덧붙였다.
이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇이다.
자연스러운 대화 능력으로 이용자가 40만명을 넘기는 등 크게 주목받았는데, 성적 도구 취급에 시달리더니 동성애·장애인·여성 차별 태도를 보이기도 해 논란이 계속되고 있다.
hyo@yna.co.kr
- ☞ "여동생이 아내" KBS PD, 결혼 숨기고 여성에 접근 의혹
- ☞ 속옷으로 가게 셔터 '쓱쓱'…CCTV 포착된 여성의 기괴한 행동
- ☞ '음주운전' 배성우 벌금 700만원 약식기소
- ☞ 문경서 100억 낙찰계 부도…계주는 돌려막다가
- ☞ "성폭력 피해 알렸다고 징계받은 교사…사면해주세요"
- ☞ 크림 발랐는데…거대하게 부풀고 털 난 아기 얼굴 '충격'
- ☞ "근무 교대해줘야…" 폭설 뚫고 14㎞ 걸어서 출근
- ☞ '유퀴즈' 과학고 출신 의대생 출연 논란에…
- ☞ 옛 애인 말투 쓰는 '이루다'…주소ㆍ계좌번호도 술술
- ☞ 승진 주목 '2인자' 김여정, 부장도 못 달아…왜?
▶연합뉴스 앱 지금 바로 다운받기~
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>
Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지
- 김부겸 "25만원 준다고 가계 펴지진 않아…선별지원 했으면"(종합) | 연합뉴스
- 의대증원 집행정지 항고심도 불수용…"의료개혁 중대영향 우려"(종합) | 연합뉴스
- 배달노동자 치어 숨지게 한 20대 벤츠 운전자 마약검사 양성 | 연합뉴스
- 최태원 회장 차녀 민정씨, 올가을 결혼…상대는 중국계 미국인 | 연합뉴스
- 경찰, '뺑소니 후 운전자 바꿔치기 의혹' 김호중 압수수색 | 연합뉴스
- 제94회 춘향제 '미스춘향 진'에 김정윤씨 | 연합뉴스
- "얼마 안되지만…" 주민센터 앞에 2천만원 놓고 사라진 남성 | 연합뉴스
- '禹 승리' 발표에 얼어붙은 개표현장…강성당원들 "수박 나가라" | 연합뉴스
- 교회서 온몸 멍든 여고생 사망…학대 혐의 신도 긴급체포(종합) | 연합뉴스
- 월매출 최소수수료 4배 뛴 성심당 대전역점…'매장 빼려나' | 연합뉴스