[사설] ‘녹취·카톡 조작’ 김세의 구속, AI 동원 범죄 대책 강구해야

배우 김수현씨의 명예를 훼손한 혐의를 받는 김세의 가로세로연구소 대표가 26일 서울중앙지방법원에서 열린 구속 전 피의자 심문에 출석하고 있다. 연합뉴스

생성형 인공지능(AI)으로 증거자료를 조작해 배우 김수현씨의 명예를 훼손한 혐의로 유튜버 김세의씨(가로세로연구소 대표)가 구속됐다. 서울중앙지법은 26일 성폭력처벌법상 촬영·반포, 명예훼손, 협박 등의 혐의를 받는 김 대표에 대해 “증거인멸 및 도망 염려가 있다”며 구속영장을 발부했다.

김 대표는 김수현씨가 미성년자였던 고 김새론 배우와 교제했으며, 고인의 사망이 김수현씨 측의 채무 변제 압박 때문이라는 등의 허위사실을 유포한 혐의를 받는다. 이번 사건은 AI 기술이 범죄에 악용될 경우 개인의 삶을 파괴하고 사회적 신뢰를 무너뜨려 공동체에도 위협이 될 수 있음을 극명히 드러낸 사례다.

사건을 수사한 경찰은 김 대표가 두 사람의 교제 근거로 제시한 자료들이 의도적으로 위조됐다고 결론 내렸다. 김 대표는 지난해 기자회견을 열어 고인의 음성 녹취 파일을 공개했는데, 경찰은 이 파일을 AI를 이용한 조작으로 판단했다. 또한 김 대표는 고인이 ‘알 수 없음’으로 표시된 상대방과 대화하는 카카오톡 화면 사진을 유족 측으로부터 건네받은 뒤 대화 상대방 이름을 ‘김수현’으로 편집했다고 한다.

가로세로연구소 보도 이후 김수현씨는 미성년자와 교제했다는 도덕적 비난과 이미지 추락을 겪은 것은 물론, 출연 계약이 해지되고 손해배상 소송을 당하는 등 막대한 경제적 피해까지 입어야 했다. 김 대표는 혐의를 부인하고 있으나, 혐의가 재판 과정에서도 확정될 경우 엄벌이 불가피하다고 본다.

AI 기술의 비약적 발전에 따라 이를 활용한 범죄가 더욱 증가하고 양태도 정교해질 가능성이 크다. 올해 초에는 AI 이미지 생성 기능으로 각종 증명서를 위조해 투자사기를 벌이고, 구속될 처지에 놓이자 허위 잔액증명서를 법원에 제출해 구속을 면한 20대가 검찰에 적발되기도 했다. 이처럼 고도화하는 AI 기술이 민형사 사법 절차를 교란하는 수단으로 악용될 경우 다수 피해자를 양산하는 사태로 이어질 수 있다. 기술의 진화 속도를 법과 제도가 따라잡을 수 있도록 국가 차원의 대책 마련이 시급하다.

수사기관은 AI 기술에 의한 조작 여부를 신속하게 판별할 수 있는 전문 인력과 시스템을 확충할 필요가 있다. 법원은 공동체의 신뢰를 해치는 ‘테크 범죄’에 대해 무관용 원칙으로 엄중한 심판을 내려야 한다. 국회도 AI 활용 범죄에 대해선 일반 사기죄나 명예훼손죄보다 가중처벌하는 내용의 입법을 검토할 만하다.