[청계광장]흔들린 AI 기반, 신뢰와 안전의 리셋 시급하다

최경진 가천대 법대 교수(한국인공지능법학회장)

최근 연이어 발생한 해킹사고와 개인정보 유출사건은 단순한 보안사고를 넘어 AI 대전환(AX)의 기초가 되는 '안전성과 신뢰성'의 토대 자체를 흔들고 있다. 특히 국가정보자원관리원 화재사고는 전자정부의 일시적 장애를 넘어 신원확인·배송·금융 등 국가 전체 공통 디지털 기반의 취약성을 여실히 드러냈다. 공공과 민간의 경계를 초월한 범국가적 시스템 위기며 디지털 신뢰의 근간이 붕괴될 수 있음을 경고한 사건이다.

AI의 안전성·신뢰성 문제 역시 중대한 과제지만 그 이전에 더 근본적인 '디지털 안전 기반'의 전면개혁이 시급하다. 정보보호, 개인정보 보호, 그리고 국가정보자원 보호가 제대로 작동하지 않는다면 정부가 추진하는 'AI G3'는 공허한 구호에 불과하다. 기초가 흔들리는 집에 첨단 AI를 올려놓는 것은 결국 사상누각(沙上樓閣)에 지나지 않는다. 그동안 우리의 정보시스템 정책은 확장과 구축에 초점을 맞췄다. 그러나 구시스템과 신시스템이 뒤섞여 누적된 구조적 복잡성은 심각한 보안 사각지대를 만들었다. 이제는 부분적 보완이 아니라 전체 시스템에 대한 종합점검과 진단을 통해 데이터 안전 기반을 전면 재설계해야 한다. AX 시대에 걸맞은 구조적 혁신이 필수다.

우선 인적·관리적 역량을 강화해야 한다. 보안과 개인정보 보호 담당자뿐 아니라 민간·공공 구분 없이 기관장과 기업 CEO가 디지털 안전 기반에 대한 실질적 역할과 책임을 져야 한다. 국가적 차원의 '디지털 책임 거버넌스'를 확립할 때다. 모든 구성원의 정보보호 리터러시를 제고해야 한다. 정보보호는 일부 전문가의 전유물이 아니라 전 구성원이 일상적으로 실천해야 할 기본역량이다. 교육과 홍보를 넘어 데이터 보호 및 점검을 일상화하고 책임·인센티브 기반 평가를 병행하는 제도적 장치를 통해 실질적 변화를 이끌어야 한다. 전체 시스템이 유기적으로 연계돼 하나의 생태계처럼 작동하는 환경으로 발전해갈수록 어느 한 부분의 취약점이 전체 시스템의 붕괴로 이어질 수 있기에 '제로 트러스트'에 기반한 데이터 보호 중심 설계(Privacy and Security by Design and by Default)를 대원칙으로 삼아야 한다. 사후대응이 아닌 '내재적 설계'로 패러다임 전환이 필요하다.

공공소프트웨어 발주체계 역시 전면개편이 필요하다. 대기업이 책임지고 시스템을 설계하되 일정 비율의 사업비와 개발업무를 중소·벤처기업과 의무적으로 분담하도록 제도를 개선해야 한다. 이를 통해 신뢰성·안전성을 확보하면서도 중소기업의 참여를 확대할 수 있다. 중요한 시스템은 실시간 백업을 넘어 '무중단 서비스'를 지향해야 한다. 재난·재해상황에서 시스템별 복구시간 목표(RTO)를 명확히 정의하고 이를 달성할 수 있는 예산·인프라를 갖춰야 한다. 계획만으로는 충분치 않다. 정기적인 모의훈련과 대응시나리오의 업데이트를 통해 실제 대응역량을 체계적으로 강화해야 한다. '망분리' 신화에서도 벗어나야 한다. 망분리의 실효성을 냉정하게 평가해 실제로 필요한 영역만을 특정해 적용하고 그외 영역에선 민간 클라우드 등 우수한 디지털 자원을 적극 활용할 수 있게 해야 한다. 특히 재난상황에서 공공이 민간 클라우드로 즉시 전환·복원할 수 있는 제도적 기반을 마련해야 한다. 기술의 발전을 제도적 경직성이 가로막아서는 안 된다.

정보보안, 개인정보 보호, 국가정보자원 보호는 별개의 이슈가 아닐뿐더러 언제든 국가적 위기로 비화할 수 있다. 사고가 발생했을 때 단일 기관이나 부처 차원의 대응이 아니라 유기적 협력체계와 강력한 조정력을 가진 통합 거버넌스가 작동해야 한다. AI 경쟁력의 근본을 지탱할 '디지털 안전 기반'의 재건이 시급한 시점이다. 국가 전략의 최상위 의제로 격상하고 명확한 비전과 구체적인 실행계획을 마련해야 한다. AI 시대의 경쟁력은 결국 안전·신뢰에서 시작한다.

최경진 가천대 법대 교수(한국인공지능법학회장)