챗GPT의 한계? 문서 만들어 제출했지만 검찰에 덜미

AI로 가짜탄원서…기소 첫 사례

[헤럴드경제=윤호 기자]생성형 인공지능(AI)으로 가짜 문서를 만들어 활용하려다가 재판에 넘겨지는 첫 사례가 나왔다.

최근 서울중앙지검 공판2부(부장 김해경)는 챗GPT로 ‘가짜 탄원서’를 작성한 뒤 검찰과 법원에 제출한 마약사범 A(32)씨를 사문서위조 및 위조사문서행사 혐의로 추가 기소했다.

그럴듯하게 만든 탄원서 속의 어색한 문체 등을 의심한 검사의 눈썰미에 덜미를 잡혔다.

검찰에 따르면 A씨는 지난해 2월 필로폰을 두 차례 투약하고 임시마약류를 소지한 혐의(마약류 관리법 위반)로 기소돼 올해 1월 1심에서 징역 1년 3개월을 선고받았다.

그는 재판이 진행 중이던 지난해 10월 “법정 태도에 비추어 증거인멸·도주 우려가 있다”는 재판부 판단에 따라 구속됐다.

그러자 A씨는 보석을 통한 석방을 노리고 지인과 가족 등 명의의 탄원서를 다수 제출했다.

이 가운데에는 한 지자체 체육회 관계자 명의의 탄원서도 있었다. A씨가 해당 체육회와 협력해 많은 공익활동을 했다며 선처해달라는 취지였다.

공소유지를 담당하던 정기훈(사법연수원 44기) 검사는 탄원서를 검토하는 과정에서 “누구도 선뜻 나서지 않았던 당내 불미스러운 일조차 정의라는 명목으로 홀로 싸우기도 하고” 등 A씨의 범행과 무관한 생뚱맞은 내용이 담겼다는 점을 발견했다.

이 밖에도 A씨의 실제 구체적 활동 내용은 없고, 전반적인 문체가 어색한 번역 투라는 점 등을 수상히 여긴 검찰은 수사에 착수했다.

수사 결과 해당 탄원서는 A씨의 부탁을 받은 지인이 챗GPT에 ‘탄원서를 생성해달라’는 명령어를 넣어 만들어낸 사실을 확인했다.

지인은 탄원서 명의자의 명함을 참고해 챗GPT에 ‘○○시 체육회, 공익활동, 당내 경선 문제 해결’ 등 키워드를 넣어 내용을 만들어낸 것으로 나타났다.

검찰은 “본 사건은 실제로 형사 재판에 챗GPT로 조작된 탄원서가 제출됐지만 담당 검사의 치밀한 검토와 적극적인 수사로 가짜 탄원서임을 밝혀낸 사안”이라며 “앞으로도 생성형 AI 기술을 악용한 증거 조작, 위조 범행에 대해 엄정히 대응하겠다”고 밝혔다.

youknow@heraldcorp.com

사회