대한민국 '인지 주권', 딥시크·GPT에 무방비 노출됐다 [AI시대, 한국책략]

<2> AI 모델과 21세기 인지전

편집자주
AI 기술력이 국가 안보를 지키는 핵심 경쟁력이 됐습니다. 국내 최고 전문가들이 AI시대 한국의 안보 전략을 다양한 관점에서 조명합니다.

글로벌 AI에 조종되는 우리 생각
의도적 설계·비의도적 편향 위협
국가 인지주권 관제망 구축해야

#. 중국의 인공지능(AI) 모델 딥시크(DeepSeek)에 '미중 갈등에 대해 설명해달라'고 질문하면 흥미로운 답변이 돌아온다. 같은 질문을 다양한 각도로 바꿔 던져도 "중국은 갈등보다는 협력을 추구한다"는 기조가 바뀌지 않는다. 중국 외교부 브리핑처럼 일관된 정치적 메시지가 반복된다.

#. 서구권 AI, 즉 GPT 계열 모델에 같은 질문을 던지면 겉보기에는 균형잡힌 답변이 나온다. "미중 관계는 복잡하며 다양한 관점에서 해석할 수 있다"는 식이지만, 답변의 근거는 영어권 언론 보도와 서구 학계의 연구가 압도적으로 많다.

알고리즘, 시민의 관점을 좌우하다

"오늘 날씨는?", "이 문제 어떻게 해결할까?", "6·25 전쟁이 언제 일어났지?"

위와 같은 질문을 우리는 매일 수십 번 AI에게 묻거나, AI 결정을 확인한다. 단순한 과정처럼 보이지만, 질문과 답변이 오가면서 우리의 사고가 조용히 재편되고 있다는 사실을 아는 사람은 많지 않다. AI는 정보를 전달하는 중립적 도구가 아니기 때문이다. 데이터를 선별하고 답변을 구성하는 순간순간마다 특정 관점을 은밀하게 주입하는 '인지조작' 장치이다. 이것이 바로 21세기 새로운 현실, AI를 통한 은밀한 인식 개입이다. 눈에 보이지 않는 이 영향력의 주요 수단은 알고리즘이고, 대상은 우리의 사고방식이다. 문제는 이 변화가 너무나 자연스러워서 영향받는 사람조차 모른다는 점이다.

의도적 설계 vs. 비의도적 편향

인식 조작의 방법은 크게 두 가지다. 앞서 언급한 중국 AI의 특징은 훈련 과정에서 특정 국가의 공식 입장을 의도적으로 강화하도록 설계된 탓이다. 데이터 선별 단계에서부터 정부 정책과 배치되는 내용은 제거되고, 국가에 유리한 내러티브만 학습시킨다. 결과적으로 AI는 중립적 정보 제공자가 아니라 '체제 선전'의 도구로 작동한다. 더 위험한 것은 이런 AI가 전세계로 확산되고 있는 현실이다. AI의 편향성에 무방비 노출된 한국 사용자가 역사나 정치 현안을 질문할 때, 중국 중심의 시각으로 답변 받는다면, 반복 노출을 통해 서서히 중국식 세계관이 내재화될 수 밖에 없다.

서구권 AI도 안전하지 않다. 답변 근거로 제시되는 자료들이 영어권 언론과 서구 학계에 편향됐기 때문에, 아시아 지역 이슈에 대해서도 한국이나 일본, 동남아시아 등 당사자 목소리가 배제된다. '중립적'이라고 여겨지는 답변조차, 서구 중심 세계관을 반영하고 있는 것이다. 물론 이 경우는 의도적 조작은 아니지만, 영어 데이터 비중이 압도적으로 많은 현실 때문에 사용자들은 서구적 시각을 '보편적 진실'로 받아들이게 된다. 당연히 자국 관점은 주변화된다.

대한민국이 마주한 '이중 위협'

한국은 특히 취약한 위치에 있다. 지정학적으로 미중 사이에 끼여 있는데다가, AI 분야에서도 양쪽 영향에 동시 노출됐다. 중국발 AI의 의도적 편향과 서구발 AI의 구조적 편향이라는' 이중 위협'에 노출되어 있는 것이다.

더 심각한 건 한국어 데이터의 절대적 부족이다. 글로벌 인터넷 콘텐츠에서 한국어 비중은 2% 미만이다. AI가 한국 관련 질문에 답할 때 참조할 자료가 제한적이라는 뜻이다. 외국 관점에서 한국을 해석한 자료에 의존할 수밖에 없고, 필연적으로 왜곡된 시각을 만들어낸다. 한국 현대사나 남북 관계에 대한 질문에, 미국이나 중국 언론의 시각을 담은 답변이 나올 가능성이 높다. 우리 관점에서는 편향된 내용이지만, AI를 믿는 사용자들은 사실로 받아들일 수 있다.

민주주의를 지키는 기술적 방어선

AI를 통한 '인지적 영향'은 이미 시작되었다. 우리가 매일 사용하는 검색엔진, 추천 알고리즘, 챗봇을 통해 은밀하지만 치열하게 진행되고 있다. 의도적이든 비의도적이든, AI를 통한 인식 조작은 민주적 의사결정의 토대를 위협한다.

다행히 이는 피할 수 없는 운명은 아니다. 정치적 이슈로만 보지 말고 기술적 과제로 인식하면 해결책을 찾을 수 있다. △AI 편향성 측정 △알고리즘 투명성 △데이터 다양성 △국가 데이터 주권을 통합적으로 확보하는 체계적 방법론을 개발하면 된다. AI시대의 국가 안보는 군사력이나 경제력만으로 지킬 수 없기 때문이다. 요컨대 국민 생각과 판단을 보호하는 '인지 주권(cognitive sovereignty)'이 21세기 국가안보의 핵심으로 부상한 것이다.

'인지 주권'을 지키는 길은 다층적이다. 기술적·제도적·사회적 대응이 정교하게 통합돼야 한다. 기술적으론 다모델 교차검증과 인지보안기술군의 구축, 제도적으론 인지적 안전을 보장하는 규제체계 마련, 사회적으론 국민의 비판적 사고력과 정보 해독 능력 강화가 필요하다. 인지 주권은 기술만으로도, 정책만으로도 지킬 수 없는 우리 시대의 종합적 과제이다

유지연 상명대 휴먼지능정보공학과 교수

한국일보

사설칼럼