생각을 맡겼더니, 생각이 사라졌다[북스&]

■생각을 외주화한 사람들(정재민·김영주 지음, 더스퀘어 펴냄)
SNS 무한 스크롤·OTT 자동재생
알고리즘에 생각할 시간 빼앗겨
복잡한 문제들은 AI에 해결 의존
인간 사고력·판단력 퇴화 불가피
답부터 묻기보다 5분만 먼저 사색
효율성보다 ‘생각의 주권’ 지켜야

생각을 외주화한 사람들. 사진 제공=더스퀘어

잠에서 깨자마자 스마트폰을 찾아 들고 밤새 쌓인 알림부터 확인한다. 출근길 지하철에선 인공지능(AI)이 골라준 뉴스를 읽고, 회사에 도착해서는 생성형 AI로 회의 자료를 작성한다. 점심은 배달 앱의 알고리즘이 추천한 메뉴로 결정한다. 퇴근 후 집에 와서는 온라인동영상서비스(OTT)의 추천 목록에 뜬 드라마를 본다. 침대에 누워 유튜브를 10분만 본 뒤 자려고 했지만 이어지는 추천 영상에 이끌려 한 시간을 훌쩍 넘기기 일쑤다. 디지털 미디어와 소셜네트워크서비스(SNS), AI가 일상화된 시대, 현대인의 하루는 알고리즘과 AI가 설계한 동선 위에서 흘러간다.

신간 ‘생각을 외주화한 사람들’은 SNS와 AI가 어떻게 우리의 사고와 판단 능력을 마비시키는지 짚어낸다. 저자인 정재민 한국과학기술원(KAIST) 문술미래전략대학원 교수와 김영주 한국언론진흥재단 수석연구위원은 커뮤니케이션학·심리학·뇌과학 등 다양한 학문의 연구 결과를 통해 현대인의 사고를 잠식하는 기술적 덫을 파헤친다.

저자는 먼저 온라인 플랫폼이 우리가 생각할 틈을 잠시도 주지 않는다는 점을 지적한다. 수시로 울리는 스마트폰의 알림과 SNS의 끝이 없는 ‘무한 스크롤’, OTT가 다음 영상을 곧바로 틀어주는 ‘자동 재생’이 대표적이다. 사용자의 생각할 시간을 제거해 플랫폼에 계속 머물게 함으로써 수익을 극대화하려는 빅테크 기업의 전략이다.

온라인 플랫폼의 알고리즘이 이용자의 생각을 설계하면서 문제는 더 심각해진다. 제이넵 투펙치 미 컬럼비아대 교수는 2016년 미국 대선 당시 유튜브 추천 알고리즘을 분석한 결과 주제가 무엇이든 이용자를 더 극단적인 영상으로 이끈다는 사실을 발견했다. 미 대선 당시 도널드 트럼프 후보의 유세 영상을 보면 유튜브가 백인 우월주의나 홀로코스트를 부정하는 영상을 추천하는 식으로 작동한다. 투펙치 교수는 이를 ‘토끼굴 효과’라 부르며 이용자를 플랫폼에 잡아두기 위해 알고리즘이 갈수록 자극적인 콘텐츠를 추천하도록 설계돼 있다고 비판했다.

저자는 특히 알고리즘이 이용자가 좋아할 만한 정보만 반복해서 보여주며 사람들을 진실로부터 소외시킨다고 경고한다. 데이비드 레드로스크 미 럿거스대 교수의 연구 결과 지지 후보에 대한 부정적 정보가 전체 정보의 27%를 넘어서자 유권자들이 후보에 대한 지지를 철회하기 시작했다. 생각을 바꾸기 위해서는 상당한 양의 반대 정보가 누적돼야 한다는 것이다. 하지만 알고리즘은 다양한 관점이나 비판적 정보를 배제해 이용자가 생각을 전환할 기회를 원천 차단한다.

저자는 우리가 생각을 통째로 AI에 맡기는 ‘생각의 외주화’ 문제도 지적한다. 우리는 복잡한 문제를 마주했을 때 스스로 고민하기보다 해결 방법을 곧바로 AI에 묻는다. ‘사용하지 않는 신경 회로는 약해진다’는 신경과학의 기본 원리처럼 스스로 생각하지 않는 인간의 사고력과 판단력도 점차 퇴화할 수밖에 없다. 저자는 “처음에는 편리한 도구였던 AI가 반복을 거쳐 습관이 되면, 어느덧 AI 없이는 빈 문서 앞에서 한 줄도 쓰지 못하는 상태에 이른다”며 “인지적 편안함이 인지적 무력함으로 바뀌는 과정”이라고 말한다.

저자는 생각하는 능력을 키우기 위해 스마트폰을 버리거나 AI를 거부하는 등 극단적인 주장을 펴지는 않는다. 대신 각 장마다 과잉 정보, 편향된 알고리즘, AI 환각 및 생각의 외주화에 맞서 생각의 주권을 지키기 위한 현실적인 해결책을 제시한다. 예를 들어 알고리즘에 휘둘리지 않기 위해 자신의 신념과 반대되는 키워드를 검색창에 입력해보라고 권한다. 이 단순한 검색 하나가 알고리즘이 그동안 걸러낸 반대 정보들을 한꺼번에 불러오게 한다. 또 AI에 답을 묻기 전에 자신의 생각을 5분만 먼저 정리하고 AI의 답과 비교해보라고 조언한다. 이처럼 순서를 뒤집으면 먼저 제시된 내 생각이 판단의 기준점이 되고 AI의 역할은 도구로 한정된다고 설명한다.

결국 AI와 함께 살되 AI에 삶을 맡기지 말고, 효율을 좇되 생각하는 수고를 기꺼이 감수하라는 것이 저자의 결론이다. “생각하는 능력은 인간의 존엄이다. AI가 아무리 똑똑해진들, 우리의 삶은 우리가 스스로 생각하고 선택하는 한 우리의 것이다.”

354쪽, 2만 1000원.

이재용 선임기자 jylee@sedaily.com