[장은수의 책으로 읽는 세계]인간을 인간답게 만드는 불완전함에 대하여

AI가 약속한 효율과 최적화, 그 뒤에 남는 인간의 불안
완벽한 시스템보다 불완전한 인간이 필요한 이유

내가 사는 지역에는 인공지능이 자동으로 운행하는 버스 한 대가 돌아다닌다. 한 시간에 한 차례쯤 집 앞을 지나는데, 어느 날 올라타서 어떻게 운행되는지 유심히 살핀 적이 있다. 완전 자율 주행은 아니었다. 굴다리 밑을 지나거나 장애물이 있거나 하는 위험 구간에서는 사람이 버스를 모는 방식이었다.

인공지능의 개발 속도를 고려하면, 언젠가 사람 운전자가 운전할 일은 없어질 것처럼 보였다. 서울 전역의 버스가 인간 운전자 없이 달리는 광경도 자연스레 떠올랐다. 자기와 동료의 일자리를 없애려고 운전하는 이의 모습이 아이러니해 보였다. 완전 자율주행 버스가 돌아다니면 과연 나는 안심하고 그 버스에 오르게 될까? 돌발 사고를 두려워하면서 전전긍긍하게 될까? 숙련성을 넘겨주고 일에서 내몰린 인간들은 어떻게 될까? 온갖 생각에 심사가 절로 어지러웠다.

'자동화의 역설'이라는 말이 있다. 더 정교하고 더 안정적인 자동화 시스템을 도입할수록, 인간이 꼭 문제를 해결해야만 하는 순간은 오히려 위험해진다는 뜻이다. 영국 인지심리학자 리산 베인브리지가 1983년 발표한 논문에서 체계적으로 설명한 현상이다. 자동화 시스템이 도입되어 작업을 스스로 처리하게 되면, 그 일을 감독하는 인간이 직접 수행할 기회를 잃고 숙련성이 서서히 약화하는 게 그 원인이다.

인간은 신체와 정신이 협응해 배우고 익히는 존재다. 자동화 시스템이 도입되어 사람이 스스로 하던 일을 기계에 맡기면, 그 일을 직접 처리해 본 경험이 조금씩 줄어든다. 그에 따라 일머리가 사라지고, 손끝 감각도 무뎌진다. 물 흐르듯 작동하던 뇌와 신체 사이의 신경 연결망도 빠르게 약화하면서 점차 숙련성을 잃는다. 머리가 생각해도 몸이 따라주지 못하는 일이 벌어지는 것이다. 현장 실무자들이 흔히 선배 관리자들을 무능하다고 생각하는 이유다. 사람은 온 신경을 집중해서 스스로 일하고, 다양한 상황을 겪으면서 단련하지 않으면 빠르게 약해진다.

그런데 천재지변 같은 사태가 벌어져 자동화 시스템이 스스로 일을 처리하지 못하는 순간엔 고도의 집중력과 빠른 상황 인식, 숙련된 손발과 긴밀한 협동 능력이 필요하다. 오랫동안 현장 실무에서 손을 놓은 상황에서 이런 예외 상황에 휘말리면 누구나 허둥대기 마련이다. 자동항법장치에 길든 항공기 조종사, 알고리즘 거래에 의존하는 금융투자사 직원 등은 비상사태에서 망설이며 안절부절못하다 대형 사고를 일으키곤 한다. 인공지능 도입으로 사회 전체에 자동화가 퍼지고 일상에서 인간과 로봇이 공존해 일하는 경우가 늘수록, 이런 일이 흔해질 게 빤하다.

자동화는 숙련성을 빼앗아 인간을 무능하게 만드는 경향이 있다. 자동화가 도입된 영역에서 인간은 저숙련 노동에 내몰리거나 필요할 때만 호출하는 프리랜서로 전락하는 경우가 적지 않다. 노동 강도는 높아지고, 일자리는 불안정해지며, 업무에 쓰는 시간은 종잡을 수 없이 늘어난다. 이런 불안정한 노동 환경은 과로와 사고의 위험까지 높인다. 이런 상황은 인간을 불안으로 내몰고, 공포에 질리도록 이끈다. 요즘 우리 상황이다.

인공지능과 자동화 기술이 빠르게 확산하면서 인간의 판단과 숙련성이 약화할 수 있다는 우려도 커지고 있다. 자동화 시스템에 모든 것을 맡기기보다 인간이 능동적으로 개입하고 판단할 수 있는 여지를 남겨둘 필요성이 제기된다. 아시아경제DB

'인간을 인간답게 만드는 불완전함에 대하여'(윌마)에서 영국 경제학자 팀 하포드는 자동화가 더 잦은 오류와 더 큰 실수를 부른다고 주장한다. 자동화를 도입하면, 개별 업무 단위에선 효율이 높아지고 사고가 줄어든다. 그러나 자동화 시스템은 건당 실수 확률이 인간의 100분의 1에 불과해도, 업무 처리량은 100만 배 더 빠를 수 있다. 이 경우 전체 오류 건수는 인간이 직접 처리할 때보다 1만 배 많아질 수 있다. 신체에 속박된 인간과 달리, 자동화 기계는 업무 범위가 매우 광대하기 때문이다.

사람의 생명이 걸렸거나 대규모 재난이 예견되는 등 초정밀 작동을 요구하는 업무일수록 자동화는 위험해진다. 인공지능이 수능 만점 받고, 게임 좀 잘했다 해서 호들갑 떨면 곤란하다. 현실은 수능보다 어렵고, 길거리는 게임보다 무한히 복잡하다. 현실에 도입했다가 인공지능이 처리 못 할 일이 생기면, 끔찍한 사회적 재난으로 이어진다. 항공기가 추락하고, 송전망이 멈추며, 방사능이 누출되고, 금융시장이 붕괴한다.

하포드는 업무에 지나치게 매끈하고 완벽하게 최적화된 시스템을 도입하는 건 옳지 않다고 말한다. 인간 없는 자동화보다 저항이나 불편함, 즉 인간이 관여하고 능동적으로 개입할 수밖에 없는 마찰을 의도적으로 남겨두는 편이 장기적으로 더 안전하다는 것이다. 피할 수 없는 예외 상황에서도 회복탄력성을 발휘할 수 있어서다. 하포드는 사회과학자 스콧 페이지의 말을 인용한다. "모든 사람이 똑같이 생각한다면 모두 똑같은 부분에서 막힐 것이고, 그런 조직은 앞으로 나아가지 못한다."

따라서 항공기 조종사들이 정기적으로 수동 비행 훈련을 하듯, 자동화 시스템에 모든 걸 맡기기보다 스스로 판단해 작업하고 자율적·즉흥적으로 업무를 처리하는 등 인간 숙련성을 보존할 방안을 마련해야 한다. 현실은 데이터가 아니고, 삶은 완전히 정돈될 수 없다. 인공지능이 혼란에 빠지고 자동화 시스템이 오작동하는 일은 반드시 일어난다. 그 순간에 문제를 처리하러 뛰어드는 사람에겐 최상의 숙련성이 필요하다. 그런데 신입 시절부터 다양한 일을 겪으면서 온갖 문제를 해결한 경험을 쌓지 못한 사람은 이러한 비상 상황에서 예외적 문제를 신속하고 자유롭게 해결할 수 있는 '숙련된 즉흥성'을 갖추기 어렵다.

인공지능의 자동화 기술이 보편화하고, 국가나 기업이 거기에 매력을 느낄수록, 현실은 미리 짜놓은 대본이나 정해진 알고리즘에 맞춰 얌전히 움직여 주지 않음을 기억해야 한다. 이 책의 원제인 'messy'가 암시하듯, 현실은 너저분하고 성가시게 요동한다. 빠르게 맥락을 읽고, 스스로 판단해 창의적 해결책을 도출하는 숙련된 인간의 존재를 소중히 여길 필요가 있다. 반복 훈련으로 기본기를 단련하고, 불확실한 환경에서 자주 문제와 부닥치고, 작은 실수와 실패를 통해 위험을 다루는 법을 배운 사람만 숙련성을 얻는다. 나쁜 조직은 인공지능이 약속하는 효율성과 최적화에만 신경을 쓰지만, 좋은 조직은 복잡하고 모호한 상황에서 단련되는 숙련성을 함께 생각한다. 인간이 조직에서 어떤 경험을 하고, 어떻게 시간을 보내느냐를 생각하는 게 무엇보다 중요한 시기다.

장은수 출판문화평론가