AI가 술술 쓴 고소장… 법조계 “뜯어보면 부정확”

내용증명 등 문서 빠르게 작성
영세기업 등 편리함에 초안 맡겨
“법률 적용 오류 많아, 패소 위험”
개인정보 학습, 타인 유출 가능성

생성형 AI에게 내용증명과 소장 작성 등 법률 사무를 맡기는 사례가 급증하고 있는 것으로 파악됐다.

특히 사회초년생과 영세기업 등 법률 서비스 접근성에 부담을 느끼는 계층의 이용이 늘고 있는 반면 부정확성과 개인정보 유출 등의 부작용을 우려하는 목소리도 제기된다.

박모(21)씨는 변호사 등 법률 대리인 대신 챗GPT가 작성해 준 내용증명을 지난 5일 대학교 선배 A씨에게 발송했다. 빌려준 200만원을 약속한 3달이 지나도 갚지 않자, 이달 30일까지 갚지 않을 시 민·형사상 조치하겠다고 통보하는 내용이다.

내용증명 작성에 박씨가 투입한 비용 부담은 0원이다. 이름, 주소, 연락처 등 발신·수신인 정보와 보내는 이유, 경위 및 사실관계, 요구사항 등을 작성해달라는 GPT의 요청에 박씨는 정보를 입력했고, 1분도 지나지 않아 내용증명 초안을 받아 우체국을 통해 발송했다.

도내 한 홍보업체의 대표 B씨는 최근 자신들이 제작한 광고문구와 로고가 다른 업체에 무단 사용되는 것을 두고 법적 문제를 제기하는 과정에서 GPT를 통해 고소장을 작성했다.

GPT는 내용증명보다 더 구체적인 내용인 범죄 사실과 처벌 이유, 관할 경찰서 등을 적어달라 요청한 것으로 전해졌다. B씨는 GPT의 초안을 바탕으로 변호사에게 사건을 의뢰했고, 검토를 거쳐 제출해 고소를 진행 중인 상태다.

이처럼 실제 GPT가 작성한 법률 문서 초안을 그대로 접수하거나 법무법인 등에 의뢰를 하는 경우가 늘고 있는 것으로 파악됐다. 편리함과 적은 비용 부담, 높은 접근성 때문에 늘고 있지만, 법조계에선 이용을 경계하는 목소리가 나온다.

수원 소재 법무법인에 소속된 한 변호사는 “AI가 작성한 문서를 그대로 소송에 활용할 경우 법정에 가면 패소할 가능성이 크다”며 “실제 최근 GPT에 의해 작성된 고소장 초안으로 의뢰하는 사례가 많아 살펴본 결과, 정확하지 않은 법률을 명시하거나 법률가들이 쓰지 않는 어투와 단어들이 쓰일 때가 있었다”고 말했다.

생성형 AI의 기술적 특징으로 발생되는 부작용에 대한 전문가들의 지적도 있다.

챗GPT 등은 사용자와의 대화 과정에서 입력되는 데이터가 학습되면서 기능과 생성능력을 발전한다. 민감한 개인신상과 범죄사실 등에 대한 입력이 반복될 경우 이를 학습한 AI가 제삼자와의 대화 과정에서 해당 개인정보를 유출하며 문제가 발생할 가능성이 있다는 분석이다.

김명주 서울여대 정보보호학과 교수는 “법률 문서를 챗GPT에 의뢰할 경우 할루시네이션(사실이 아닌 정보를 생성하는 현상)으로 가짜 법률 내용이 나올 가능성이 충분히 있다. 자신의 법적 문제가 아닌 제삼자가 대신 GPT에 의뢰하면 변호사법 위반 문제도 저촉될 수 있다”며 “개인정보 문제의 경우 일반인은 각종 포털과 뉴스에 등장하는 유명인보다 적지만, 가능성이 있을 수 있다”고 짚었다.

/고건 기자 gogosing@kyeongin.com