정부의 인지전 대응, 어디까지 허용되어야 하나 [권호천의 ICT 인사이트]

2024년 제22대 국회의원선거 당시 중앙선거관리위원회의 딥페이크 영상 삭제 요청은 388건이었다. 2025년 대통령선거에서는 1만510건으로 급증했다. 불과 1년 사이 27배가 늘어난 셈이다.

이는 선거를 겨냥한 AI 조작 콘텐츠가 예외적인 위협에서 상시적인 위험으로 바뀌고 있다는 의미다.

후보자가 하지 않은 말을 실제 발언처럼 만들고 존재하지 않았던 장면을 사실처럼 유통하는 기술은 유권자의 판단을 직접 공격한다.

조작 영상이 실제 투표 결과를 바꾸지 못하더라도 선거 과정과 결과를 불신하게 만들면 상당한 효과를 거둘 수 있다. 민주주의는 투표로 작동한다. 그 투표는 유권자가 접하는 정보를 신뢰할 수 있다는 전제가 있어야 한다.

대한민국 정부도 이런 변화에 대응하기 시작했다. 다만 정부가 관련 정책을 모두 '인지전략'이라는 이름으로 추진하는 것은 아니다. 하지만 시민의 판단과 국가의 정보환경을 보호한다는 점에서 방어적 인지안보 정책으로 볼 수 있다.

대표적인 사례가 행정안전부와 국립과학수사연구원이 개발한 AI 기반 딥페이크 탐지 모델이다. 정부가 2026년 공개한 고도화 모델은 영상 전체의 흐름을 분석하는 방식과 얼굴 등 특정 부위의 조작 흔적을 판별하는 방식을 결합했다.

정부 발표 기준 탐지율은 기존 76%에서 92%로 높아졌다. 중앙선거관리위원회도 특별대응팀을 운영했다. 선관위는 딥페이크와 허위사실 공표·비방 게시물 정보를 관계기관과 공유했다. 중대한 위법행위에는 수사기관과 공조하는 체계를 가동했다.

이는 단순한 디지털 범죄 수사 기술에 그치지 않는다. 국가 지도자나 선거 후보자의 권위를 도용해 유권자의 판단을 왜곡하려는 공격으로부터 선거의 신뢰를 보호하는 수단이다. 사이버보안이 데이터와 정보시스템의 무결성을 지킨다면 딥페이크 탐지는 시민이 접하는 영상과 음성 등 디지털 증거의 무결성을 지키는 역할을 한다.

정부의 대응은 개별 콘텐츠 탐지를 넘어 정보 유통구조로 확대되고 있다. 방송미디어통신위원회는 허위·조작정보를 신고하고 처리하는 플랫폼 체계를 고도화하는 방안을 추진하고 있다.

사실확인 단체와 연구·교육을 지원하는 '정보통신서비스 투명성센터' 설치도 추진한다. 알고리즘 추천 여부와 검색·노출 기준을 이용자에게 공개하고 이용자가 추천 방식을 선택할 수 있도록 하는 방안도 제시했다.

이런 접근이 필요한 이유는 가짜뉴스 한 건을 삭제하는 것만으로 인지공격을 막기 어렵기 때문이다. 거짓 정보를 증폭하는 추천 알고리즘과 광고 수익 구조가 그대로라면 비슷한 콘텐츠는 다시 생산될 수 있다.

인지안보의 핵심은 무엇을 삭제할 것인지에만 있지 않다. 어떤 정보가 누구에 의해 만들어졌고 어떤 기준을 거쳐 증폭되는지를 투명하게 밝히는 것도 중요하다. 

문제는 정부의 인지전 대응에도 넘어서는 안 될 경계선이 있다는 점이다. 정부가 허위정보를 탐지하고 시민의 판단을 보호할 필요는 있다. 하지만 정부가 무엇이 진실이고 무엇이 거짓인지를 독점적으로 결정하면 방어적 인지안보 정책은 국민의 생각을 관리하는 통제 정책으로 변질될 수 있다.

정부 비판이나 의혹 제기를 허위·조작정보로 규정하는 상황도 경계해야 한다. 정부가 정책에 유리한 정보만 선택적으로 공개해도 문제가 된다. 이런 방식의 인지전 대응은 오히려 정부와 제도를 향한 신뢰를 훼손할 수 있다.

탐지 정확도 92%도 완전한 진실 판정 능력을 뜻하지 않는다. 정상적인 영상이 조작물로 잘못 판정될 가능성이 있다. 탐지 기술을 우회하는 새로운 생성 기술도 계속 등장한다. 따라서 AI 분석 결과는 수사와 검증을 지원하는 자료로 활용해야 한다. AI의 판단만으로 표현을 제한하거나 처벌 여부를 결정해서는 안 된다.

민주국가의 인지전 대응은 국민을 설득하거나 통제하는 방향이 아니라 시민이 스스로 판단할 수 있는 조건을 만드는 방향으로 설계돼야 한다.

정부는 진실의 최종 판정자가 되기보다 시민과 언론이 검증할 수 있는 원자료를 신속하게 공개하는 역할을 맡아야 한다. 허위정보 판정 과정에는 독립된 전문가와 언론·시민사회가 참여할 수 있어야 한다. 당사자가 판정에 이의를 제기하고 사법적 판단을 받을 수 있는 절차도 필요하다.

플랫폼도 단순한 기술기업이라는 논리 뒤에 머물 수 없다. 플랫폼은 어떤 콘텐츠를 추천했고 왜 확산시켰는지 설명할 책임이 있다. 정치·사회적 쟁점에서 알고리즘이 정보 노출에 어떤 영향을 미쳤는지도 투명하게 공개할 필요가 있다.

반대편의 위험도 있다. 정부가 플랫폼 규제를 수단으로 합법적인 정치적 표현을 압박할 가능성이다. 이를 막기 위한 투명한 감독 구조와 절차적 통제도 함께 마련해야 한다.

인지전 시대의 국가 경쟁력은 국민에게 하나의 목소리를 요구하는 능력에서 나오지 않는다. 정부가 자신에게 불리한 사실까지 공개하고 시민이 다양한 정보에 접근할 수 있어야 한다. 서로 다른 주장도 공개적으로 검증할 수 있어야 한다. 이런 구조가 작동할 때 사회는 외부의 정보 조작에도 쉽게 흔들리지 않는다.

미사일을 요격하는 기술은 국가의 영토를 지킨다. 조작된 정보에 대응하면서도 표현의 자유와 시민의 판단권을 보호하는 제도는 민주주의의 기반을 지킨다. 대한민국의 인지전 대응이 지켜야 할 최종 방어선은 정부의 권위가 아니다. 국민이 사실을 확인하고 스스로 판단할 수 있는 자유다.

※ 외부필자의 원고는 IT조선의 편집 방향과 일치하지 않을 수 있습니다

권호천 로센틱 컨설팅(RawSentic Consulting) 대표는 미국 오하이오대학에서 경제학 학사와 석사(광고/PR 부전공)를, 뉴욕주립대 버펄로에서 커뮤니케이션학 박사 학위를 받았다. 고려사이버대학교 융합경영학과 부교수로 재직하며 빅데이터와 네트워크분석 그리고 뉴미디어를 교육하고 연구했다. 로센틱 컨설팅을 설립해 중소/중견기업의 디지털전환(DX) 활성화 및 구성원 교육을 비롯한 기업의 수익성 증대 관련 컨설팅을 제공하고 있다. 글로벌 ICT 연구소 대표/소장으로 빅데이터를 포함한 정보통신 기술, 산업, 정책 등의 연구, 자문 업무, 그리고 저술 활동을 진행했다. ㈜SR 정보분과 위원, 한국블록체인협회 자문위원, 한국전기공사협회 남북전기협력추진위원회 자문위원, 국회 산하 사단법인 국방안보포럼 국방 ICT 위원장, 용산학포럼 연구위원, 국회 산하 사단법인 K-정책 플랫폼 신산업 연구위원, 경희대학교 경영대학원 겸임교수, K-안보포럼 방산/전력분과 위원 등으로 활동하며 블록체인의 사회 확산과 발전, 남북전기 교류의 발전, 국방산업의 발전, 용산미군기지 이전 후 공원화 사업의 발전, 대한민국 중·장기 신산업정책 제안과 발전 전략 연구, ICT를 접목한 미래 경영전략 교육, 방위산업 선진화 등을 위해 노력한다. 저서로 위기를 기회로 전환할 수 있는 전략 커뮤니케이션 방법을 다룬 ≪크라이시스 커뮤니케이션(Crisis Communication)≫ (새녘출판사), ICT가 적용된 미래 무기체계의 변화와 미래 전쟁을 다룬 ≪ICT가 승패를 좌우한다, 모던 워페어(Modern Warfare)≫ (메디치미디어), ≪AI와 사이버전의 진화≫ (커뮤니케이션북스) 등이 있다.