마약범 탄원서까지 챗GPT 위조…AI악용범죄 엄정 대응해야 [사설]

생성형 인공지능(AI) 챗GPT로 가짜 탄원서를 만들어 제출한 마약사범이 검찰에 덜미가 잡혔다. 공판을 담당한 검사가 A씨가 제출한 탄원서에 어색한 번역체 문장이 다수 들어 있는 것을 수상히 여겨 수사를 벌이다 적발했다. A씨는 탄원서를 챗GPT로 작성했을 뿐 아니라 타인 명의도 도용한 사실이 드러나 사문서 위조 및 위조 사문서 행사 혐의로 추가 기소됐다. AI 기술로 위조된 탄원서가 수사당국에 적발된 것은 이번이 처음이다. 하지만 AI를 악용한 증거 조작, 위조, 보이스피싱 등 범죄는 갈수록 증가하고 있어 이를 막을 규제 강화가 시급해졌다.

이 탄원서는 정교함이 부족해 들통났지만, 진짜와 구분이 안되는 가짜 콘텐츠가 넘쳐난다. 시각과 청각을 감쪽같이 속일 정도로 고도화된 동영상과 음성 변조가 전 세계를 뒤흔들고 있다. 지난달 말 미국 팝스타 테일러 스위프트의 얼굴을 합성한 딥페이크 음란 사진이 소셜미디어로 확산돼 미국이 발칵 뒤집혔다. 최근 뉴햄프셔 예비경선 직전에 민주당원들에게 조 바이든 미국 대통령 목소리로 '투표하지 말라'는 전화가 걸려왔는데, 알고 보니 AI로 만든 가짜 목소리였다.

AI 기술은 다양한 산업과 우리 일상에 빠르게 스며들면서 혁신적인 변화를 일으키고 있다. 인류의 삶을 바꿀 기술임에 틀림없다. 하지만 위협 요인도 함께 증가하고 있으니 걱정이 아닐 수 없다. 생성형 AI가 대중화돼 누구든지 마음만 먹으면 가짜를 만들어낼 수 있는 환경이 되면서 AI의 여론 조작과 민주주의 위협이 전 세계적으로 현실화되고 있다. 4월 총선을 앞둔 우리나라도 예외가 아니다. 우리 정치는 극단 대립으로 치닫고 있어 AI 악용 가능성이 더 높다. 지난해 12월 선거법 개정으로 AI 프로그램으로 만든 영상·사진·음향을 본인 당선이나 상대 후보 낙선을 위해 사용하는 것을 금지했다. 하지만 선거가 다가오면 가짜 콘텐츠는 더 기승을 부리고 혼란과 불신은 고조될 것이다. AI 기술을 악용한 범죄를 처벌할 법적 규제를 강화하고 엄정하게 대응해야 한다. 그래야 AI가 만드는 '가짜 세상'에서 벗어날 수 있다.