아마존, AI에 경고문 붙인다…"기술한계로 인종 등 인식 오류"
전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다.
세계 최대 전자상거래 업체 아마존은 인공지능(AI) 서비스에서 기술적 한계로 인종 등 다양한 인구집단을 차별하는 결과가 나올 수 있다는 점을 알리는 경고문을 제공할 계획이라고 밝혔다.
30일(현지시간) 로이터통신에 따르면 아마존은 상세한 식품 성분표시와 유사한 경고문 형식의 'AI 서비스카드'를 제공해 얼굴 인식이나 음성 텍스트 변환 기능 등 AI 서비스의 한계를 고객들에게 알릴 방침이다.
이 글자크기로 변경됩니다.
(예시) 가장 빠른 뉴스가 있고 다양한 정보, 쌍방향 소통이 숨쉬는 다음뉴스를 만나보세요. 다음뉴스는 국내외 주요이슈와 실시간 속보, 문화생활 및 다양한 분야의 뉴스를 입체적으로 전달하고 있습니다.
(서울=연합뉴스) 임상수 기자 = 세계 최대 전자상거래 업체 아마존은 인공지능(AI) 서비스에서 기술적 한계로 인종 등 다양한 인구집단을 차별하는 결과가 나올 수 있다는 점을 알리는 경고문을 제공할 계획이라고 밝혔다.
30일(현지시간) 로이터통신에 따르면 아마존은 상세한 식품 성분표시와 유사한 경고문 형식의 'AI 서비스카드'를 제공해 얼굴 인식이나 음성 텍스트 변환 기능 등 AI 서비스의 한계를 고객들에게 알릴 방침이다.
아마존의 AI 이미지 분석 서비스인 '레코니션'(Rekognition)의 경고문은 너무 흐리고 선명하지 않거나 상당 부분이 머리카락이나 손 등으로 가려진 얼굴 이미지는 인식하지 못한다는 내용을 담고 있다.
또 사람 얼굴이 만화 속 얼굴이나 인간이 아닌 사물로 잘못 인식되는 경우에 대해서도 경고하게 된다.
앞서 2019년 이 서비스가 피부색이 일반적인 백인보다 어두운 사람의 성별을 인식하는 데 어려움이 있다는 연구 결과가 나오자 아마존은 반발했다.
그러나 이듬해 비무장 흑인 조지 플로이드가 체포 과정에서 경찰에 살해되자 아마존은 이 서비스를 경찰에 제공하던 것을 중단했다.
또 음성 텍스트 변환 서비스 관련 경고문에는 일관성 없이 변환된 음성을 입력하면 인종 등 인구학적 집단별로 잘못된 인식 결과가 나올 수 있다고 돼 있다.
이는 지역적으로 특색있는 억양이나 방언 등을 정확하게 옮기기가 쉽지 않기 때문이라고 아마존 측은 설명했다.
아마존은 AI 경고문을 통해 AI 기술이 그릇된 인식하에 쓰이지 않도록 막고 시스템 작동·개인정보 관리 방식을 고객에게 설명하는 것을 목표로 하고 있다.
아마존이 이 같은 경고문을 제공하기로 한 것은 업계 선두 기업이 경쟁사들보다 AI 윤리 문제를 등한시한다는 시민단체의 계속된 비판을 수용한 것이라고 로이터는 전했다.
IBM도 1년 전부터 AI 관련 경고문을 제공하고 있으며, 구글도 AI를 훈련에 활용할 수 있도록 훨씬 구체적인 내용이 담긴 경고문을 발표했다.
제시카 뉴먼 버클리 캘리포니아대(UC버클리) 교수는 AI 관행과 관련된 정보기술(IT) 기업들의 경고문 제공이 늘어나겠지만, 기업의 선의에만 의존할 수 없으며 산업 표준이 마련돼야 하는 등 아직 가야 할 길이 멀다고 말했다.
nadoo1@yna.co.kr
▶제보는 카톡 okjebo
Copyright © 연합뉴스. 무단전재 -재배포, AI 학습 및 활용 금지
- '전국노래자랑' 새 MC 남희석 "명성에 누가 되지 않도록 노력" | 연합뉴스
- 슈퍼주니어 려욱, 타히티 출신 아리와 5월 결혼 | 연합뉴스
- 아들 이정후 MLB 첫 안타에 아버지 이종범 기립박수 | 연합뉴스
- 인요한 "김여사 문제 지나간 일…마피아도 아이와 부인은 안 건드려" | 연합뉴스
- 이재명 주변서 흉기 품은 20대는 주방 알바…귀가 조치 | 연합뉴스
- "딸키우면 행복할거라 생각" 신생아 매매해 학대한 부부 실형 | 연합뉴스
- [삶] "난 좀전에 먹었으니 이건 아들 먹어"…결국 굶어죽은 엄마 | 연합뉴스
- 남아공서 버스 50m 추락해 45명 사망…8세 소녀만 생존 | 연합뉴스
- 감귤 쪼아먹은 새 수백마리 떼죽음…"화가 나 농약 주입"(종합) | 연합뉴스
- 피렌체 찾은 배우 이병헌, 伊관객 즉석 요청에 "꽁치∼꽁치∼" | 연합뉴스