[사설] AI 이용 증거 조작, 조만간 진위 판별도 어려워질 것

배우 김수현이 2025년 3월 31일 오후 서울 마포구 스탠포드 호텔에서 기자회견을 열고 미성년자였던 배우 고 김새론과 교제했다는 의혹을 부인하며 울먹이고 있다./김지호 기자

배우 김수현씨가 과거 미성년자와 교제했다고 주장한 유튜버에 대해 경찰이 허위 사실 유포 혐의로 구속영장을 신청했다. 경찰에 따르면 이 유튜버는 AI(인공지능)로 김씨의 휴대전화 문자를 비롯해 교제 상대방 음성까지 조작해 공개했다고 한다. 구독자를 늘리고 돈을 벌기 위해 수많은 유튜버들이 과장과 거짓을 일삼고 있다. 하지만 이번 일은 그런 정도를 넘어 AI로 증거 조작까지 벌이고 있고 앞으로 AI가 더 발전하면 진위를 판별할 수 없는 단계에 이를 수 있다는 사실을 보여준다.

배우 김씨는 작년 유튜버의 일방적 주장으로 파문이 커지자 여러 차례 증거가 조작됐다고 했다. 하지만 검증되지 않은 내용이 일방적으로 유포되면서 큰 타격을 피할 수 없었다. 경찰은 “김씨가 광고주들에게 광고 계약 해지와 손해배상 소송을 당했다”며 “배우의 사회적 기반과 경제 활동 전반을 붕괴시켰다”고 했다. 소송액만 174억원이라고 한다. 김씨는 이미지가 중요한 배우이기 때문에 타격이 특히 컸을 것이지만 국민 누구나 당할 수 있는 일이기도 하다.

이번 사건의 경우 경찰은 녹음 파일의 음성 데이터를 분석해 조작 여부를 판단할 수 있었다고 한다. 작년 3월에 일어난 일이라 가능했을 수 있다. 지금 AI 기술로 증거를 조작했다면 판단이 쉽지 않았을 것이다. AI는 텍스트와 소리만이 아니라 이미지와 영상 데이터로 비약적으로 발전하고 있다. 전문가들은 문자든, 사진이든, 영상이든 AI 조작이 실제와 구분하기 어려운 시대가 멀지 않았다고 한다. 이 경우 형사사법 질서의 기본인 증거의 신뢰성을 붕괴시킬 수 있다. 증거의 진위를 판별할 수 없으면 재판 자체가 불가능하다. 이번 사건은 그 위험성을 보여줬다.

AI는 사회 거의 모든 분야에서 패러다임 변화를 요구하고 있다. 형사사법도 예외가 아니다. 수사기관의 기술 전문 인력과 인프라 확보를 비롯해 증거의 신뢰성 입증을 강화하는 재판 절차의 변화도 필요하다. AI 증거 위변조 범죄를 더 엄하게 처벌하는 법적 근거도 마련돼야 한다. 주요 AI 서비스를 제공하는 빅테크 기업에게 조작 범죄 증거 제출을 의무화하는 국제적 논의도 필요하다. 법원과 검찰, 경찰이 함께 풀어야 할 시급한 숙제다.