편리함 좇다 자유·정의 잃을 수도… ‘정치적 AI’에 관한 경고[북리뷰]

■ 인공지능은 왜 정치적일 수밖에 없는가
마크 코켈버그 지음│배현석 옮김│생각이음

인공지능(AI)이 인류의 삶을 잠식해 나간다. 러시아가 올해 초 우크라이나를 상대로 사람의 개입 없이 스스로 적을 식별해 전투하는 AI 기반 무인전투차량 ‘마르케르’(Marker)를 투입하며 AI의 판단이 인간의 목숨을 앗아가는 시대가 열렸다.

AI 알고리즘의 활동반경은 챗GPT로 지식을 공유하는 수준을 넘어섰다. 고도화된 AI는 자유와 정의 같은 보편적 가치들과도 좋든 나쁘든 상호작용을 시작했다. AI를 더는 기술과 편리의 영역으로만 설명할 수 없게 된 셈이다.

AI를 바라보는 인간의 인식은 어떤가. ‘AI 윤리’는 의도와 무관하게 나타나는 영향은 아직 다루지 않는다. 기술 자체는 중립적이고 결과는 인간의 의지에 좌우된다는 낙관론은 여전히 과학계를 지배한다. 이 책은 AI를 상대하는 이런 인류의 안일함에 반기를 든다. 저명한 기술철학자인 저자는 “AI는 하나부터 열까지 정치적”이라고 지적한다. AI 알고리즘을 정치적 맥락에서 개념화하는 골든타임을 놓치면 인간이 AI에 권력을 뺏기고 종속되는 시대가 올 수 있다는 일종의 경고다.

책은 정치사회적 쟁점들이 AI 기술과 어떻게 얽혀 있는지 규명하는 데 집중한다. 단순히 AI라는 기술에 정치철학적 사유를 덧댄 게 아니라 구체적으로 일어나는 여러 문제를 다룬다. 편리함만 좇다 자유를 박탈당할 수 있다는 문제의식은 다소 섬뜩하다. 저자는 조지 오웰이 소설 ‘1984’에서 제시한 거대한 권력 ‘빅브러더’가 강요하지 않아도 AI 알고리즘이 접목된 소셜 미디어에 아무런 걱정 없이 자신에 대한 디지털 서류 일체를 자발적으로 제출하고, 테크 기업들은 대놓고 뻔뻔하게 가져간다고 지적하며 이렇게 말한다. “페이스북 같은 플랫폼은 권위주의적 정권의 몽정(Wet dream)이기도 하지만 자본가의 몽정이기도 하다.”

책은 프란츠 카프카가 100여 년 전 쓴 소설 ‘소송’에서 영문도 모른 채 체포돼 재판에 넘겨졌던 요제프 K도 소환한다. 최근 미국의 평범한 흑인 남성이 고급 의류 매장에서 물건을 훔쳤단 혐의로 가족 앞에서 강압적으로 경찰에게 체포됐다 풀려난 사건을 환기시키면서다. 안면인식 알고리즘 시스템의 결함 때문에 생긴 일인데, 이를 두고 형사는 “컴퓨터가 틀렸나 봅니다”라고 말하는 게 고작이다. 여러 인구 집단 중 백인 남성의 얼굴을 더 정확하게 인식하는 알고리즘 편향성이 개인의 자유를 박탈하고 인종차별을 비롯한 구조적 불평등을 악화시켰다. 알고리즘과 데이터는 중립적이라는 프로그래머들의 주장과 달리 여러 형태의 편향이 내재된 AI는 그 자체로 정치적 존재인 것이다.

저자는 AI가 일상에 깊숙하게 파고든 지금을 “목숨을 걸고 도약할 때”라고 말한다. 또 AI는 ‘도약하면서 사고해야 하는 지점’으로 정의한다. AI 알고리즘과 빅데이터가 우리에게 주는 편리에 대해 비판적, 성찰적 거리를 확보해 달라는 절박한 당부다. 시종일관 ‘디스토피아적 서사’를 유지하는 저자는 그럼에도 “더 잘할 수 있고, 또 그래야 한다”며 독자들의 가능성을 낙관한다. 319쪽, 1만8800원.

유승목 기자 mok@munhwa.com