흑인 사진을 '고릴라'로 인식해 태그를 다는 인공지능 논란..구글 단어 삭제로 끝?

미국의 한 남성이 자신 소유의 구글 사진에서 ‘고릴라’를 쳐 검색했더니 흑인 친구의 사진이 나왔다며 문제를 제기한 데 대해 구글은 본질적인 알고리즘 수정이 아닌 단순히 ‘고릴라(gorillas)’ ‘원숭이(monkeys)’ ‘침팬지(chimpanzees)’ 등의 문제 확산 여지가 있는 단어를 삭제하는 선에서 대처한 것으로 알려졌다.

이 이야기는 2015년으로 거슬러 올라간다.

미국 뉴욕의 흑인 프로그래머 재키 앨신은 그해 6월,자신의 트위터에 “구글 사진, 당신들은 모두 X됐어”라며 “내 친구는 고릴라가 아니야”라고 글을 올렸다.
 
그는 글과 함께 구글 사진의 캡처 이미지를 첨부했다.

앨신이 공개한 이미지 중에는 그가 흑인 여성친구와 함께 찍은 사진도 있다. 자세히 보면 이들 사진에 ‘고릴라들'(Gorillas)이라는 태그가 달린 것을 알 수 있다. 구글 사진 서비스가 앨신과 그의 친구를 고릴라로 인식해 벌어진 일이다.

 

재키 앨신 트위터 캡처.

해당 서비스는 인공지능 분야 중 하나인 머신 러닝에 해당한다. 컴퓨터가 여러 사진을 학습해 종류를 스스로 분석하고, 그에 따른 적절한 태그를 붙이는 시스템이다. 인간의 학습 능력과 같은 기능을 컴퓨터에서 실현하고자 하는 기술 및 기법이지만 여전히 한계는 있다. 

구글은 재빨리 사과했다. 구글 플러스 수석 설계자 요나탄 정거는 앨신에게 답장을 보내 문제점을 살펴보는 중이라고 설명했다. 정거는 구글 사진 개발팀이 분석에 들어갔으며, 태그가 붙지 않도록 조치했다고 덧붙였다. 그러면서 짙은 피부얼굴에 대한 자동 인식 알고리즘과 태깅 시스템 개선도 약속했다.

하지만 지난 16일(현지시간) 영국 데일리메일 등 외신들에 따르면 약속과 달리 구글은 알고리즘 수정이 아닌 문제 여지가 있는 단어를 빼는 선에서 그친 것으로 보인다.

데일리메일은 “3년이 다 되었는데도 구글은 고릴라와 침팬지 그리고 원숭이가 검색되지 않는 선에서 문제를 수정한 것으로 드러났다”며 “더욱 다양하고 개선된 알고리즘 개발이 아닌 단순히 고릴라, 흑인들의 검색을 막은 것에 그친 구글을 향해 트위터 이용자들의 비판이 쏟아지고 있다”고 전했다.

 

영국 데일리메일은 “3년이 다 되었는데도 구글은 고릴라와 침팬지 그리고 원숭이가 검색되지 않는 선에서 문제를 수정한 것으로 드러났다”며 “더욱 다양하고 개선된 알고리즘 개발이 아닌 단순히 고릴라, 흑인들의 검색을 막은 것에 그친 구글을 향해 트위터 이용자들의 비판이 쏟아지고 있다”고 전했다. 영국 데일리메일 홈페이지 캡처.

설명인즉슨 자기가 구글 사진에 고릴라 이미지를 보유했더라도 같은 단어로 검색할 시 그 사진이 뜨지 않는다는 것이다. 아예 고릴라라는 단어를 제외했기 때문에 생긴 일이다. 침팬지나 원숭이도 마찬가지다.

김동환 기자 kimcharr@segye.com