흑인 남성이 영장류라고?..페북 AI, 영상분류 '논란'

/사진=로이터

페이스북의 인공지능(AI)이 흑인 남성이 등장한 영상을 영장류 관련 영상으로 분류해 논란이 불거졌다. 페이스북은 즉시 사과하고 영상 자동분류 기능을 비활성화 시켰다. 사회 곳곳에서 AI 활용이 늘고 있지만 AI가 차별과 편견까지 학습하는 오류는 그대로라는 비판이 잇따른다.

4일(현지시각) 뉴욕타임즈에 따르면 페이스북은 흑인 남성이 출연한 영상을 본 이용자들에게 "영장류 관련 영상을 계속 보시겠습니까"라는 메시지를 표출했다. 해당 영상은 영국 매체인 데일리메일이 지난해 6월 게시한 게시물로, 흑인 남성이 백인 경찰 등과 언쟁을 벌이는 모습이 담겼다. 뉴욕타임즈는 "원숭이 등을 포함한 영장류와는 아무 관련 없는 영상"이라고 전했다. 페이스북 측은 "절대 허용될 수 없는 오류를 범했다"며 즉시 사과했다. 현재 페이스북은 해당 기능을 중지하고 원인 파악에 착수한 상태다.

AI 기술 발전에도 AI 편향성 논란은 잇따른다. 빅데이터를 먹고 자라는 AI가 그 속에 담긴 차별과 편견을 그대로 받아들이기 때문이다. 실제로 미국 국립표준기술원(NIST)이 지난해 마이크로소프트(MS) 제품을 포함해 189개 안면인식 AI를 분석한 결과, 흑인과 아시아계 인식오류율이 백인보다 최대 100배 높았다.

2015년 구글 포토는 흑인 사진에 '고릴라'라는 태그를 자동 지정하기도 했다. 지난해 미국 디트로이트시에서는 범죄자 얼굴을 AI가 잘못 인식해 무고한 시민 두 명이 범인으로 체포된 사건도 발생했다. 두 사람 모두 흑인이었다. 국내에서도 AI챗봇 이루다가 소수자 혐오발언으로 논란이 불거지기도 했다.

엔가젯에 따르면 페이스북도 해당 기능을 도입 전 AI 학습용 데이터의 편향성을 없애기 위한 작업을 진행했다. 페이스북이 구축한 데이터 셋에 포함된 영상은 실제 인물이 출연한 약 4만개다. 심지어 외부 전문가들과 함께 다양한 조명과 각도에서도 정확히 인물을 인식할 수 있도록 기능을 고도화하는 작업도 거쳤다. 엔가젯은 "이번 논란은 학습용 데이터도 AI 편향을 해결하기에 아직 충분하지 않으며, AI 기술이 해결할 과제가 아직 많다는 것을 보여준 사례"라고 평가했다.

[관련기사]☞ 전신마비환자 성폭행한 간호사…출산 전까지 몰랐다☞ 남편에 "씨가 안 좋다" 폭언 내뱉는 아내☞ '문재인의 훈남 경호원' 최영재 "너무 유명해져서 잘렸다"☞ 헤어진 전 남친 집 불지른 50대 여성…"술 취해서…"☞ "국민지원금 대상자입니다" 문자, '클릭'했다간…

차현아 기자 chacha@mt.co.kr

<저작권자 ⓒ '돈이 보이는 리얼타임 뉴스' 머니투데이, 무단전재 및 재배포 금지>