[유레카] 알고리즘 인식과 인간 인식의 차이 / 구본권

[유레카]

퇴사율은 기업 생산성과 직결되는 만큼, 기업은 채용 때 오래 근속할 직원을 선호한다. 미국의 사무기기 업체 제록스는 퇴사율을 낮추기 위해 퇴직 가능성이 높은 구직자를 알려주는 소프트웨어를 도입했다. 분석결과 통근 거리가 근속기간과 높은 상관성을 지닌 변수로 드러났다. 빅데이터는 통근 거리가 먼 구직자를 뽑지 말라고 추천했지만, 제록스 경영진은 이 변수를 채용 기준에서 제외했다. 힘든 장거리 출퇴근을 하는 직원들 상당수가 도시 외곽 가난한 지역에 거주하는 현실이 반영된 결과였기 때문이다.

수학자이자 데이터과학자인 캐시 오닐은 수학과 빅데이터에 기반한 컴퓨터 알고리즘을 ‘대량살상 수학무기’라고 부르며, 이런 알고리즘이 가난한 사람과 사회적 약자를 저평가하는 경향을 지적한다.(<대량살상수학무기>) 2020년 영국은 코로나19 봉쇄로 대학입학시험(A레벨)을 치르지 못하게 되자 학생들에게 알고리즘이 산출한 점수를 부여했는데 부유한 지역의 학생들에게 높은 점수를, 가난한 지역 학생들에게 낮은 점수를 줬다.

빅데이터, 딥러닝, 강력한 하드웨어가 만나 빠르게 발달하고 있는 인공지능 기술은 알고리즘을 통해 자동화 처리 분야를 확대해가고 있다. 감정 없는 기계는 사람처럼 감정과 편견의 영향 없이 데이터를 기반으로 객관적 처리를 할 것이라는 기대가 배경이다. 국내 포털에서 뉴스 노출과 배열을 둘러싼 논쟁 때마다 업체들의 항변도 “사람의 개입 없이 알고리즘에 의해 수행된 결과”라는 논리다.

데이터와 알고리즘은 기존 관행과 설계 의도를 반영하고, 수학 모델은 본질적으로 기존 패턴이 반복될 것이라는 것을 가정한다. 인공지능은 이미지 인식과 자동번역, 바둑 등의 분야에서 사람을 능가하며, 고도의 효율성과 함께 공포를 불러오고 있다. 하지만 뉴욕대 심리학자 게리 마커스는 이러한 인공지능이 과대평가되었다고 주장한다. 지금까지 인공지능의 진전은 대부분 패턴 인식을 통한 ‘대상 인식’ 영역에서 이뤄졌는데 이는 인간의 의미 이해 방식과는 전혀 다르다는 것이다.(<2029 기계가 멈추는 날>) 알고리즘은 ‘통근 거리’를 효율성의 변수로 드러냈지만, 인간은 그 의미를 해석할 수 있다. 데이터와 알고리즘을 제대로 활용하기 위해서는 그 한계를 알아야 한다.

구본권 사람과디지털연구소장 starry9@hani.co.kr