택시기사도 배달원도 "알고리즘 배정 못 믿겠다"

“무슨 AI(인공지능) 알고리즘이란 게 자동으로 배차해준다는데, 어떤 기준인지 모르겠어요. 솔직히 진짜 AI인지 믿음도 안 갑니다.”

지난 7일 오후 8시, 서울 마포구 용강동에서 비를 맞으며 치킨을 배달하던 김모(41)씨가 말했다. 배달 플랫폼 ‘쿠팡이츠’에서 일하는 김씨는 지난 2년간 3500여 건을 배달했다고 한다. 김씨는 “마포구 내에서도 배달 기본료가 3900원인 구역이 있고 6800원인 구역이 있는데, 높은 단가의 일을 받으려고 6800원짜리 구역으로 가면 AI가 다른 데로 배차해서 보내 버린다”며 “매일 그놈의 알고리즘 때문에 화가 난다”고 했다.

일러스트=김도원 화백

같은 날 오후 서울 용산구에서 택시를 운전하던 이충실(69)씨는 “카카오택시는 ‘블루(가맹 택시)’에 콜을 먼저 주고, 다른 택시들은 뒷전인 것 같다”고 불만을 토로했다. 그는 “한 달에 9만9000원을 주고 카카오 유료 멤버십에도 가입했는데, 그래도 블루에 콜이 밀리는 것 같아 그냥 두 달 만에 해지했다”고 했다.

‘알고리즘(Algorithm)’. 일반인들에게 낯선 이 말이 평범한 시민들의 삶을 좌지우지하면서, 곳곳에서 불만이 터져 나오고 있다. 기업들이 철저히 비밀로 취급하다 보니 무슨 원리로 움직이는지 알 수 없는 데다, ‘불공정한 것 같다’고 하소연해도 ‘그저 AI가 알아서 할 뿐’이라는 답만 돌아와 답답하다는 것이다. 알고리즘은 쉽게 말해 AI가 작동하는 원칙이다. 이용자의 활동 패턴과 개인 정보 등을 바탕으로 맞춤형 콘텐츠나 서비스를 제공하는 규칙을 뜻한다. 이용자 개개인의 스마트폰 화면에서 어떤 뉴스와 상품을 우선 배치하고, 택시기사·배달원에게 특정 콜을 배당하는 것이 모두 AI의 뜻인 셈이다.

사회 곳곳에선 ‘알고리즘발(發) 문제’가 불거지고 있다. 지난달 말 쿠팡은 자체 브랜드(PB) 상품이 다른 납품업체 상품보다 우선 노출되도록 검색 알고리즘을 조작했다는 혐의를 받아 공정거래위원회의 조사를 받았다. 배달 기사 노동조합인 ‘라이더유니온’은 지난달 29일 자체 실험을 진행한 뒤, “배달 기사들이 AI 배차를 거절하고 운행하니 AI 배차를 100% 수락할 때보다 주행거리도 짧아지고 수익도 늘었다”고 밝혔다.

알고리즘에 대한 불신(不信)이 커지자 정치권도 뛰어들었다. 류호정 정의당 의원이 지난달 25일 대표 발의한 ‘알고리즘 투명화법’(정보통신망법 개정안)이 대표적이다. 이 법안은 ‘알고리즘 서비스 이용자들이 서비스 제공자(기업)에게 알고리즘에 대한 설명을 요구할 수 있고, 제공자는 영업 비밀을 이유로 이를 거부할 수 없다’는 조항을 담았다. 또 알고리즘을 설계할 때, 성별·장애·나이 등을 이유로 이용자를 차별해선 안 되며 검색·배열 등 중요한 알고리즘 원칙을 공개해야 한다는 내용도 포함됐다. 한마디로 알고리즘을 ‘투명화’하라는 뜻이다.

IT업계에선 반발한다. “알고리즘을 공개하라는 것은 식당 고유의 레시피를 내놓으라는 뜻”이라는 것이다. 익명을 요구한 한 플랫폼 기업 관계자는 “알고리즘은 각 회사가 고도의 기술력을 투입해서 만든 회사의 밑천”이라며 “이걸 공개하면 경쟁 회사에 대외비(對外秘)를 노출하게 된다”고 했다. 또 검색 순위에 높이 올라가기 위해 알고리즘을 분석·악용하는 이들이 생길 우려가 있다고도 했다.

알고리즘 특성상, 원리를 설명하는 것 자체가 쉽지 않다는 주장도 있다. 전병곤 서울대 컴퓨터공학과 교수는 “사람이 어떤 물건을 눈으로 보고 머리로 인식할 때 그 이유를 설명할 수 없는 것은, 많은 패턴을 보며 학습한 결과이기 때문”이라며 “지금의 알고리즘 또한 결과값이 왜 나왔는지를 현재 기술 단계에선 설명할 수 없는 상황”이라고 했다. 카카오택시를 운영하는 카카오모빌리티 측은 “배차 알고리즘엔 수많은 경우의 수가 고려되는데, 어떤 방식으로 어떤 수준까지 설명이 이뤄져야 할지에 대해 더 고민이 필요하다”고 했다.

이경전 경희대 빅데이터연구센터장(교수)은 “시민들 스스로가 알고리즘의 결과가 과연 제대로 된 것인지 이해하고 검증하는 능력인 ‘알고리즘 리터러시(literacy)’를 점차 갖춰 나가야 한다”며 “그래야 기술 기업들이 알고리즘을 오남용하지 못하게 견제할 수 있다”고 했다.