디지털 권력, 어떻게 다룰 것인가

기술은 결코 중립적이지 않아... 디지털 시대에 어떻게 민주적 가치를 지키며 사회를 통치할 것인가

[황광선 기자]

▲ 디지털 기술과 사회는 떼어낼 수 없이 맞물려 서로를 형성하며, 더 이상 정부만이 디지털 사회를 "통치"하는 유일한 주체가 아니다. ⓒ alesnesetril on Unsplash

오늘날 플랫폼과 인공지능 같은 디지털 기술은 국가와 사회의 권력 지형을 바꾸어 놓고 있다. 한때 기술은 사회 바깥에서 주입되는 별개의 요소이자, 그 통제는 오롯이 정부의 몫이라는 생각도 있었다. 그러나 이러한 가정은 현실에서 성립하지 않는다. 디지털 기술과 사회는 떼어낼 수 없이 맞물려 서로를 형성하며, 더 이상 정부만이 디지털 사회를 "통치"하는 유일한 주체가 아니다.

실제로 디지털 사회의 기반이 되는 인프라 상당 부분이 소수 거대 기술기업의 손에 넘어갔고(Van Dijck 등, 2018), 대부분의 정부는 (중국처럼 자체 기술 생태계를 구축한 예외를 빼면) 첨단 기술 발전을 독자적으로 이끌 능력을 잃었다(Van Dijck 등, 2018). 이제 정부는 일상 행정과 국민 통치에 있어서 소수 거대 기업이 제공하는 플랫폼, 데이터, 알고리즘, 반도체 및 클라우드 서버 등에 크게 의존한다(Van der Vlist 등, 2024). 다시 말해, 국민과 정부를 이어주는 사회 기반 시설을 더 이상 정부가 완전히 장악하지 못하고, 민간 디지털 플랫폼이 사실상의 "디지털 권력"을 쥔 새로운 주체로 부상했다.

이런 변화 속에서 구글, 메타(페이스북)와 같은 글로벌 플랫폼 기업들은 마치 초국가적 권력을 행사하는 존재가 되었다. 예컨대 페이스북은 2023년 월간 활성 이용자가 30억 명을 넘어섰는데(Silberling, 2023), 이는 세계 인구의 3분의 1이 넘는 규모로서 역사상 어떤 단일 조직도 가져본 적 없는 영향력이다. 전 세계 디지털 광고 시장의 절반 이상을 구글과 메타 두 기업이 차지하고 있다는 통계도 있다. 이처럼 극소수 기업에 이용자와 시장이 집중되는 현상은 디지털 사회에서 권력이 얼마나 편중되어 있는지를 보여준다.

플랫폼 기업들은 방대한 재정 자원과 기술 인프라를 바탕으로 새로운 서비스를 쏟아내고, 이용자의 데이터를 수집해 영향력을 더욱 키운다. 이 과정에서 이용자의 온라인 행동 데이터를 대규모로 수집·분석하여 사업에 활용하는 이른바 "감시 자본주의" 체제가 굳어졌다는 비판도 제기된다(Zuboff, 2019). 개인의 관심사나 소비 성향을 정교하게 파악한 플랫폼은 맞춤형 광고부터 여론 형성까지 폭넓게 관여하며, 그 힘은 전통적 미디어나 정부 기관과 어깨를 나란히 할 정도로 커졌다. 가령 유튜브나 트위터 같은 소셜미디어는 혐오발언이나 가짜뉴스를 증폭시켜 사회 갈등을 키울 수도 있지만, 동시에 알고리즘 조정과 관리 정책을 통해 유해 콘텐츠 확산을 억제하고 건전한 담론을 촉진하는 "준(準)통치" 기능을 수행하기도 한다(Gillespie, 2018).

이처럼 거대 플랫폼은 정보의 흐름과 접근을 통제함으로써 사회를 인프라 권력으로 좌우하고 있으며, 이는 디지털 기술이 단순한 도구를 넘어 사회를 통치하는 장치로 작동하고 있음을 보여준다. 디지털 기술은 한편으로 정부 권력의 새로운 도구가 되기도 한다. 과거에는 정보 검열이나 국민 감시가 물리적 한계에 부딪혔지만, 이제 정부는 첨단 기술을 활용해 훨씬 광범위하고 효율적으로 사회를 들여다보고 관리할 수 있게 되었다.

특히 감시 기술의 발달은 국가 권력의 역할을 크게 변화시켰다. 예를 들어 중국은 안면인식 기능을 갖춘 2억 대 이상의 감시 카메라를 공공장소에 설치하고 인공지능으로 영상을 분석하여 범죄 예방과 사회 통제를 시도하고 있다(Feldstein, 2019). 또 온라인상의 방대한 개인정보와 소셜미디어 데이터를 결합해 국민 개개인의 신용과 행동을 평가하는 사회신용체계도 운영 중인데, 이는 디지털 기술을 통해 시민을 포괄적으로 모니터링하는 대표적인 사례로 꼽힌다.

민주주의 국가에서도 대규모 디지털 감시는 현실이 되었다. 2013년 폭로된 프리즘(PRISM) 사건에서 보듯 미국 국가안보국(NSA)은 글로벌 인터넷 기업들의 데이터를 비밀리에 수집하여 국제적 논란을 빚었고, 유럽 각국에서는 정부가 테러 방지 등을 명분으로 도입한 휴대전화 대량 도청 및 위치추적 프로그램이 사생활 침해 논쟁을 불러일으켰다.

최근에는 이스라엘 기업 NSO 그룹이 개발한 스파이웨어 페가수스(Pegasus)가 여러 국가 정보기관에 판매되어, 언론인과 인권운동가, 야당 정치인들의 스마트폰 해킹에 악용된 사실이 국제 조사로 드러났다. 이러한 사건들은 디지털 기술이 권위주의 국가뿐 아니라 민주국가 정부에도 유혹적인 감시 도구로 쓰일 수 있음을 보여주며, "디지털 독재"의 위험성을 환기한다.

정부는 또 다른 방식으로 디지털 기술을 통치에 활용하고 있는데, 바로 알고리즘과 AI를 행정·사법 영역에 도입하는 흐름이다. 방대한 데이터를 처리하는 알고리즘 시스템은 행정 효율을 높이고 객관적 판단을 내릴 해법으로 기대된다. 이에 따라 경찰은 범죄 발생을 예측하는 예측폴리싱 프로그램을 도입하고, 법원은 양형 결정에 알고리즘 조언을 구하며, 복지기관은 AI로 수급 자격을 심사하는 등 다양한 시도가 이루어지고 있다.

그러나 이런 알고리즘 통치에는 심각한 문제가 뒤따른다. 우선, 알고리즘은 개발 단계에서 인간의 편견이나 한계가 코드와 데이터에 스며들 수 있어 공정성을 해칠 위험이 있다. 실제로 미국 일부 주에서는 복지 부정 수급자를 가려내기 위해 자동화 시스템을 도입했다가, 수만 명의 빈곤층이 잘못된 알고리즘 판정으로 생계 지원에서 탈락하는 일이 벌어졌다(Eubanks, 2018). 또한 범죄 예측 알고리즘의 사례를 보면, 역사적으로 편향된 범죄 데이터가 입력되어 소수인종 밀집 지역을 과도하게 위험지역으로 지정하거나, 기존에 경찰의 관심이 컸던 지역만을 반복적으로 순찰하도록 하는 등 편향의 확대 재생산 문제가 보고되었다(O'Neil, 2016).

2020년 영국에서는 대학 입시 평가를 코로나19로 시험을 치르지 못한 학생들의 과거 성적 데이터를 기반으로 자동 산정했다가 예상치 못한 오류와 형평성 논란이 일어났다. 상식과 맥락을 읽지 못하는 기계적 산출 때문에 우수한 학생이 낮은 등급을 받는 일이 속출하자, 학생들과 학부모의 거센 항의 끝에 정부가 알고리즘 결과를 철회한 일도 있었다. 이처럼 인간 행위를 데이터화하고 규칙에 따라 처리하는 알고리즘이 반드시 객관적이거나 공정한 것은 아니며, 오히려 사회적 약자에게 불리한 기존 구조를 강화하거나 새로운 형태의 디지털 관료제를 낳을 수 있다.

더욱이 일단 컴퓨터가 결정을 내리면 그 불투명한 과정 탓에 잘못을 발견하거나 이의 제기하기 어려워, 민주적 통제가 힘들어진다. 정부가 효율성과 편의를 이유로 디지털 기술에 의존할수록 국민 개개인은 자신의 운명이 보이지 않는 코드에 의해 좌우되는 상황에 놓일 수 있다는 우려가 제기된다. 요컨대 디지털 기술은 권력을 분산시키는 듯 보이지만, 다른 한편으로는 정부와 기업이 결합한 새로운 중앙집권적 통치 수단으로 작동하여 개인의 삶에 큰 영향력을 행사한다.

결국 디지털 시대에 어떻게 민주적 가치를 지키며 사회를 잘 통치할 것인가라는 물음이 대두된다. 기술의 급격한 발전이 가져온 문제점들을 마주한 지금, 단순히 혁신을 장려하고 편의를 누리는 차원을 넘어 공공의 가치를 중심에 둔 새로운 거버넌스 원칙이 요구된다. 여기서 말하는 공공의 가치란 개인의 자유와 프라이버시, 안전과 포용, 공정성과 투명성, 민주적 참여와 같은 우리 사회가 소중히 여기는 가치들이다(Moore, 1997).

바람직한 디지털 통치는 이러한 여러 가치들을 최대한 충족하면서도 상충되는 지점에서는 사회적 합의를 통해 균형을 잡는 것이라 볼 수 있다. 예컨대 국가안보와 범죄 예방을 이유로 시민의 사생활을 어디까지 감시해도 되는지, 혐오발언이나 가짜뉴스를 규제하면서 표현의 자유는 어떻게 보장할지 등은 끊임없이 토론되고 조정되어야 할 쟁점들이다. 프라이버시와 안전, 효율성과 형평성 같은 가치들은 때때로 충돌하기 마련이어서, 하나의 정답보다는 트레이드오프(trade-off) 속에서 최적의 지점을 찾아가는 지혜가 필요하다.

더욱이 이러한 가치를 기술에 구현한다고 해서 문제가 자동으로 해결되는 것도 아니다. 알고리즘에 윤리 원칙 몇 가지를 삽입한다고 복잡한 사회적 효과를 통제할 수는 없으며, 어떤 가치를 중시할지는 기술 설계자나 기업이 임의로 결정할 일이 아니라 공론의 장을 통해 공개적으로 결정해야 한다. 다시 말해, 디지털 사회의 좋은 통치는 단순한 기술적·법률적 문제가 아니라 사회 전체의 가치와 도덕을 어떻게 우리의 시스템과 일상에 녹여낼 것인가 하는 총체적 과제인 것이다(van Dijck 등, 2025).

이러한 이유로 학자들과 정책입안자들은 기술 개발 초기 단계부터 투명성과 인간의 권리를 고려하고, 다양한 이해관계자들이 함께 참여해 원칙을 세우는 설계 단계의 거버넌스를 강조한다(Helberger et al., 2018). 요약하면, 디지털 권력을 인간다운 방향으로 길들이기 위해서는 우리 사회가 중요하게 여기는 가치를 명확히 하고 이를 지키기 위한 제도적·기술적 장치를 정교하게 마련해야 한다.

이런 노력의 일환으로 유럽연합(EU)은 세계에서 가장 적극적으로 디지털 기술을 규율하는 법·제도들을 도입하고 있다. 2018년 개인정보보호규정(GDPR)을 시작으로, 2022년에는 소위 디지털서비스법(DSA)을 제정하여 거대 플랫폼들의 책임과 투명성을 강화하고 이용자 권리를 보호하려 하고 있다(European Union, 2022). DSA는 페이스북, 유튜브 등 거대 플랫폼이 불법 콘텐츠를 신속히 제거하고, 추천 알고리즘의 작동 방식이나 광고 타게팅 정보 등을 공개하도록 의무화한 법이다. 또한 2022년 제정된 디지털시장법(DMA)을 통해 구글, 애플 등 소수 게이트키퍼 기업들이 시장지배적 지위를 남용하지 못하도록 견제하는 틀을 마련했다.

나아가 2024년에는 세계 최초로 포괄적 인공지능 규범인 인공지능법(AI Act)이 최종 승인되어 단계별로 적용되며 2026년 전면 시행 예정이다(European Union, 2024). 이 법은 인공지능 시스템을 용도와 위험도에 따라 분류하고, 특히 의료·교통·고용처럼 고위험 분야의 AI에 엄격한 요건을 부과하며, 인권 침해 소지가 큰 AI 활용(예: 실시간 안면인식 대중감시)은 금지하는 내용을 담고 있다.

이처럼 EU의 규제 패키지는 디지털 기술을 "방치"하지 않고 사회 규칙의 틀 안으로 끌어오는 시도로서, 디지털 권력을 견제하고 공공의 이익을 수호하려는 디지털 시대의 법치라고 평가된다. 가령 DSA의 경우 대형 플랫폼들이 그동안 자의적으로 수행해온 유해 콘텐츠 제거 작업을 민주적 통제 아래 놓이도록 하고, AI Act는 자율주행차부터 채용 알고리즘까지 우리 삶에 스며든 AI 시스템에 안전장치를 마련하려 한다.

이러한 규제 시도에도 한계와 과제가 존재한다. 우선, 기술 변화의 속도를 법과 제도가 따라가기 어렵다는 문제가 있다. AI Act 논의만 보더라도 입법자들이 위험 수준별 규제를 설계하는 사이에 ChatGPT와 같은 초거대 생성형 AI가 폭발적으로 확산되어 법안 초안에 없던 새로운 쟁점을 던졌다. 실제로 학계에서는 AI Act가 빅테크 기업이 주도하는 초거대 AI 개발 경쟁의 현실을 충분히 반영하지 못하고, 특정 적용 분야에만 집중한 나머지 거대 기업이 AI 인프라 단계에서 행사하는 영향력을 규율하지 못한다는 지적이 나왔다(Hummel, 2025). 플랫폼 규제법인 DSA에 대해서도 마찬가지로, 법 취지의 실현은 결국 얼마나 신속하고 철저하게 집행되느냐에 달려 있다고 전문가들은 말한다. 복잡한 글로벌 기업들을 대상으로 한 감독과 처벌을 EU 집행기관과 각 회원국 규제 당국이 얼마나 효과적으로 해낼 수 있을지 의문이라는 견해도 있다.

결국 거버넌스의 실효성은 규칙을 만드는 것만큼이나 그 이행을 담보할 장치를 갖추는 데 있다. 더 나아가, 일각에서는 국가가 법적 규제를 강화하는 과정에서 오히려 표현의 자유 등 기본권 보장을 사기업 플랫폼에 위임해버리는 부작용도 경계해야 한다고 주장한다(Katetake, 2025). 예를 들어 DSA에 따라 정부가 지정한 "신뢰할 수 있는 신고자" 단체들이 플랫폼 상의 불법 콘텐츠를 찾아내 신고하면 플랫폼이 이를 지우게 되는데, 이때 삭제 여부 결정이 사기업 내부 규칙에 맡겨진다면 공적 절차의 투명성이 낮아질 수 있다는 것이다. 요컨대 디지털 시대의 규범 설계는 국가가 앞장서되, 자칫 규제의 사유화나 민주적 통제의 후퇴를 불러오지 않도록 면밀한 균형 잡기가 요구된다.

지금까지 살펴본 바와 같이, 디지털 권력은 전통적인 정부·국가 권력과 복잡하게 얽혀 새로운 도전과제를 낳고 있다. 그렇다면 이 거대한 권력을 어떻게 길들이고 분산시켜 디지털 사회를 "잘" 통치할 수 있을까? 많은 전문가들은 그 해법이 공동 통치, 즉 협력적 거버넌스에 있다고 입을 모은다(van Dijck et al., 2025).

디지털 사회에서는 더 이상 정부 혼자서 법을 만들고 집행하는 것으로 충분하지 않다. 왜냐하면 기술 혁신의 주체는 기업이고, 그 영향력 아래 놓인 이용자와 시민들이 있으며, 학계와 시민단체 등 다양한 집단이 각각 전문지식과 이해관계를 가지고 역학을 이루기 때문이다. 따라서 효과적인 디지털 거버넌스는 국가(정부)와 시장(기업), 그리고 시민사회가 각자의 역할과 책임을 나누어 맡고 협력적 관계망을 구축할 때 비로소 가능해진다(Kooiman, 2003).

이를테면 플랫폼 기업은 사회적 책임의식을 갖고 투명성·안전성 기준을 준수하며, 정부는 이러한 기준을 강제하는 법제와 인프라를 제공하고, 시민사회는 감시견 노릇을 하며 기업과 정부에 대한 비판과 대안을 제시하는 식이다. 최근 EU가 도입한 신뢰 신고자 제도는 정부가 공인한 시민단체 등이 온라인 유해 콘텐츠를 찾아내 신고하면 플랫폼이 우선 조치하도록 한 것으로, 공공-민간-시민이 함께 온라인 질서를 바로잡는 한 예라고 할 수 있다(European Union, 2022). 또한 페가수스 스파이웨어 남용 사건을 폭로한 국제 언론인 연합이나, 대형 IT 기업들의 독점을 비판하며 대안을 모색하는 디지털 권리 운동 단체들처럼, 다양한 민간 주체들이 연대하여 디지털 권력에 민주적 견제를 가하는 움직임도 중요하다.

궁극적으로, 디지털 공동체를 구성하는 모두가 거버넌스의 주체로 참여해야지만 플랫폼 기업의 전횡을 막고 공익을 지키는 집단지성의 통제가 가능해진다. 바꿔 말하면, 디지털 사회의 사회계약은 정부-기업-시민 간 새로운 협력 관행 속에서 다시 쓰여져야 한다. 국가와 시장, 공동체가 힘을 합쳐 디지털 기술을 인간의 존엄과 공동선에 부합하게 운영할 때, 비로소 우리는 디지털 권력을 민주주의의 틀 안에 안착시킬 수 있을 것이다.

21세기의 디지털 권력은 산업혁명기 증기기관이나 20세기 원자력처럼 인류 사회의 향방을 바꿀 막강한 에너지로 떠올랐다. 이 힘이 어떤 방향으로 작용할지는 우리에게 달렸다. 디지털 권력이 극소수에 집중되어 감시와 통제의 수단이 될 것인지, 아니면 사회 곳곳에 분산되어 모두의 번영을 돕는 공공재가 될 것인지는 아직 결정되지 않았다. 분명한 사실은, 기술은 결코 중립적이지 않으며 그 사용 방식에 사회의 가치 선택이 스며들게 마련이라는 점이다.

이제 우리는 스스로에게 물어봐야 한다. 과연 우리의 데이터와 알고리즘은 누구의 이익을 위해 봉사하고 있으며, 우리는 그 과정에 얼마나 관여하고 있는가? 한편으로는 인공지능과 플랫폼을 통해 효율성과 편리를 극대화하면서도, 다른 한편으로는 시민의 권리와 민주적 가치를 지켜내는 두 마리 토끼를 잡기 위해 무엇을 해야 할까?

이 거대한 질문에 정답을 찾는 일은 쉽지 않겠지만, 그 방향을 모색하는 과정 자체가 디지털 사회의 미래를 결정지을 것이다. 디지털 권력을 견제하고 올바른 용도로 활용하는 일은 더 이상 선택이 아닌 필수이며, 이를 위한 제도 혁신과 사회적 숙의, 그리고 전 지구적 협력이 절실하다. 기술에 대한 환상이나 공포를 넘어, 이제는 성숙한 시민의식과 공동체의 지혜로 디지털 시대의 새로운 권력 균형을 설계해야 할 때다.

디지털 사회의 주권은 기술 그 자체가 아니라 그것을 어떻게 사용할지 결정하는 우리 모두의 손에 달려 있으며, 그 책임과 혜택 역시 우리 모두가 나누어 가져야 한다는 깨달음이 필요하다. 앞으로의 사회에서는 국가, 기업, 시민이 힘을 합쳐 디지털 권력을 공동으로 다스리는 통치 모델을 정립하는 일이 인류의 자유와 번영을 지키는 열쇠가 될 것이다.