AI, 통제할 것인가… 통제당할 것인가

AI, 단순 도구 아닌 권력 행위자
알고리즘이 정보 흐름 지배자로
데이터 이미 정치적 무기로 변질
딥페이크·가짜정보가 진실 삼켜
인간 자유·존엄 증진에 적극 활용
시민 참여와 민주적 통제만이 답

AI는 어떻게 민주주의를 위협하는가/마크 코켈버그/신상규 옮김/한울아카데미/2만9000원

요즘 인공지능(AI)은 우리 삶의 일부가 됐다. 검색 결과를 정렬하고, 뉴스를 추천하며, 영상을 편집하고, 채용과 금융 심사·공공행정 등 다양한 영역에서 활용되는 일상적 기술이 됐다.

벨기에 철학자이자 기술윤리학자인 마크 코켈버그가 펴낸 이 책은 편리함과 효율성이라는 장점을 앞세워 우리 삶 깊숙이 들어온 AI가 과연 민주주의와 공존할 수 있을지, 민주적 통제가 가능한지를 다각도로 분석한다.

생성형 AI를 활용해 실제 인물이 하지 않은 말을 한 것처럼 보이게 만드는 ‘딥페이크(Deepfake)’ 기술은 민주주의를 위협하는 하나의 요인이다. 게티이미지뱅크·생성형 AI 이미지

저자는 AI를 단순한 도구나 기술 혁신의 결과물로 보지 않는다. AI를 사회적 권력이자 정치적 행위자로 이해한다. AI가 사람들의 행동을 예측하고 유도하며 정보의 흐름을 통제하는 과정에서 조작, 차별, 감시와 억압이 발생하고 있으며, 이로 인해 민주주의의 핵심 가치인 자유·평등·참여·책임성이 흔들릴 수 있다고 경고한다.

미국의 사법 분야에서 활용된 AI 사례를 소개한다. 컴퍼스(COMPAS) 알고리즘이 흑인 피고인을 차별한다는 주장이 꾸준히 제기돼 왔다. 인권단체들은 흑인 피고인이 백인 피고인보다 재범 위험이 크다고 잘못 판단될 가능성이 훨씬 크다고 지적한다. 더불어 AI 기술이 새로운 형태의 ‘테크노 권위주의’를 낳을 수 있다고 우려한다. 중국 정부가 AI를 활용해 전화 추적, 구매 내역 모니터링, 채팅 검열 등을 통해 시민을 감시하고 있으며, 소수민족과 이주노동자의 이동 자유를 제한하고 있다고 설명한다. 더 큰 문제는 이러한 AI 감시 기술이 중국과 같은 권위주의 국가에만 국한되지 않고 미국, 프랑스, 독일, 이스라엘, 일본 등 여러 국가에서도 개발·보급되고 있다는 점이다.

마크 코켈버그/신상규 옮김/한울아카데미/2만9000원

알고리즘 기반의 정보 추천 시스템은 민주주의를 위협하는 대표적 사례다. 오늘날 많은 사람은 신문이나 방송보다 플랫폼 기업의 알고리즘을 통해 뉴스를 접한다. 사용자가 관심을 보이는 콘텐츠를 우선적으로 노출하는 방식은 편리하지만 동시에 심각한 부작용을 낳는다. 이용자는 자신과 비슷한 의견만 반복적으로 접하게 되고 반대 의견은 점차 시야에서 사라진다. 이른바 ‘필터 버블(Filter Bubble)’은 검색엔진이나 SNS 알고리즘이 이용자의 관심사, 검색 기록, 클릭 패턴 등을 분석해 사용자가 선호할 만한 정보만 선별적으로 보여주는 현상이다. ‘에코 체임버(Echo Chamber)’는 비슷한 생각을 가진 사람들끼리만 소통하면서 같은 의견이 반복적으로 증폭되는 현상을 말한다. 이러한 현상은 사회적 분열을 심화시키고 건전한 공론장의 형성을 어렵게 만든다.

2016년 미국 대선 과정에서 불거진 ‘케임브리지 애널리티카(Cambridge Analytica)’ 사건은 데이터와 알고리즘이 민주주의에 어떤 영향을 미칠 수 있는지를 단적으로 보여준다. 수천만 명의 페이스북 이용자 정보가 정치광고에 활용됐고, 개인별 성향에 맞춘 선거 메시지가 제공되면서 여론조작 논란이 일었다. 이 사건은 데이터가 단순한 개인정보를 넘어 정치적 권력이 될 수 있음을 보여줬다.

AI가 생성하는 가짜 정보 역시 새로운 위협이다. 최근에는 생성형 AI를 활용해 실제 인물이 하지 않은 말을 한 것처럼 보이게 만드는 ‘딥페이크(Deepfake)’ 기술이 빠르게 발전하고 있다. 선거를 앞둔 여러 국가에서는 정치인의 가짜 연설 영상이나 허위 음성 파일이 온라인에 유포되며 사회적 혼란을 초래한 사례가 잇따르고 있다. 기술이 정교해질수록 일반 시민은 진짜와 가짜를 구분하기 어려워진다. 결국 민주주의의 기반인 사실과 진실에 대한 사회적 합의 자체가 흔들릴 수 있다.

민주주의는 단순히 투표 제도만으로 유지되는 체제가 아니다. 국민이 정확한 정보를 바탕으로 숙고하고 판단할 수 있어야 하며, 정치적 결정 과정 역시 투명해야 한다. 그러나 AI는 종종 ‘블랙박스’ 형태로 작동한다. 알고리즘이 어떤 기준으로 특정 정보를 추천했는지, 왜 특정 결정을 내렸는지 일반 시민은 물론 전문가조차 이해하기 어려운 경우가 많다.

그렇다고 해서 저자는 AI를 금지하거나 배척해야 한다고 주장하지 않는다. 오히려 문제는 기술을 설계하고 운영하는 사회적 구조와 권력관계에 있다고 본다. AI는 인간이 만든 기술이며, 그 가치와 목적 역시 인간이 결정한다는 것이다.

그렇다면 AI 시대에 민주주의는 어떻게 지켜낼 수 있을까. 저자는 AI 시대의 대안으로 ‘공동선(common good)’의 회복을 제시한다. AI가 기업의 이윤이나 국가 권력의 확대 수단이 아니라 사회 구성원 모두의 자유와 존엄, 공정한 기회를 증진하는 방향으로 활용돼야 한다는 것이다. 이를 위해서는 기술 개발 과정에 시민 참여를 확대하고, 공공적 책임과 민주적 통제를 강화해야 한다고 강조한다. 결국 AI의 미래는 기술 자체가 아니라 그것을 어떤 가치와 목적 아래 운영하느냐에 달려 있다는 것이 저자의 핵심 주장이다.

AI가 인간의 삶을 더욱 편리하게 만들고 생산성을 높여주는 것은 분명한 사실이다. 그러나 기술의 발전이 곧 민주주의의 발전을 의미하지는 않는다. 오히려 민주적 통제와 사회적 성찰이 부재할 경우 AI는 새로운 형태의 권력으로 작동할 수 있다고 저자는 경고한다. 저자는 묻는다. “우리는 기술을 통제하고 있는가, 아니면 기술에 의해 통제되고 있는가.”

박태해 선임기자 pth1228@segye.com