유료 법률 AI챗봇의 위험성 [오정익의 AI Law 인사이트]

오정익 법무법인 원 AI&Tech팀장(변호사)

유료 법률 AI챗봇 서비스의 위험성을 묘사한 AI 이미지.

국내의 경우 변호사법상 유료로 법률AI챗봇 서비스(여기서의 논의는 법률사건 등의 소개나 알선, 유인 등의 부분은 제외한다)를 제공하는 것은 원칙적으로 금지된다.

금지되는 법률AI챗봇 서비스에는 단순한 자동화 서비스(예를 들면 일정한 법률 포맷이 있고 해당 부분에 기재될 내용은 이용자가 직접 작성하거나, 이용자가 작성한 내용을 기계적으로 구분하여 해당 양식에 맞춰 기입해 주는 서비스 등)는 포함되지 않는다. 또한 법률AI챗봇 서비스 중 어떤 법리나 사안을 설명하고 이와 유사 사례를 다룬 판례를 찾아주는 서비스는 변호사법상 금지되는 법률AI챗봇 서비스에는 해당되지 않는다고 볼 수 있다. 이는 변호사법이 금지하고 있는 비변호사의 법률사건에 관한 법률사무 취급이 아니기 때문이다.

변호사법 제109조는 변호사가 아니면서 이익을 목적으로 법률사건에 관한 감정ㆍ대리ㆍ중재ㆍ화해ㆍ청탁ㆍ법률상담 또는 법률 관계 문서 작성 등 법률사무를 취급하는 행위를 금지한다. 판례 법리에 따르면, 법률사무란 ‘법률상의 효과를 발생·변경·소멸시키거나 보전·명확화하는 사항의 처리’를 의미한다. 따라서 법률AI챗봇이 이용자의 구체적인 사건이나 쟁점에 대해 향후 필요한 법적 조치나 대응 방안을 직접 제시한다면, 이는 단순한 정보제공을 넘어 구체적인 법률사건에 대해 법률사무를 수행하는 것이 되어 현행법상 허용될 수 없다.

따라서 앞서 언급한 자동화서비스는 기계적인 서비스를 제공하는 것으로 법률사무를 취급한다고 볼 수 없고, 판례를 찾아주는 것은 이용자가 입력한 사항에 가장 부합한다고 판단되는 판례를 제시해 주는 것에 그치므로, 역시 법률사무를 취급한다고 볼 수 없기에 허용될 수 있는 것이다.

일각에서는 법률AI챗봇 서비스는 그 기반이 되는 거대언어모델(LLM)과 같이 AI가 이용자의 질문에 대해 학습한 데이터 확률적으로 가장 적절하거나 부합하다고 판단하는 데이터를 조합, 생성하는 것뿐이므로, 법률AI챗봇 서비스 제공을 법률사무 취급이라고 보는 것은 오해이고, 따라서 일반 국민에게 허용해야 한다고 주장하기도 한다. 그러나 이러한 논리는 자율주행 AI도 역시 유사한 방식으로 작동하므로, 그 작동을 ‘운전’이 아니라는 이상한 결론에 이르게 되는 등 부당한 결과가 초래될 수 있다(또한 이런 논리라면 비변호사가 유사한 확률적 논증을 거쳐 법률상담 등을 제공하는 경우에도 이를 허용해야 한다는 결론에 이르게 된다). 그러나 법률AI챗봇의 유료서비스를 금지하는 것은 그 과정이 어찌되었던 간에 해당 결과물의 제공이 이용자에게 법률상담이나 법률자문 등과 같이 실질적인 법률적 판단과 조력으로 작용하기 때문이다.

왜 비변호사가 법률사무를 취급하는 것을 변호사법이 금지하고 있는지 근본적인 의문이 있을 수 있다. 이는 법률사무는 개인 등의 권리·의무나 재산과 같이 중요한 사항에 직접적이고 중대한 영향을 미치기 때문이고, 따라서 전문성, 윤리성, 책임성을 담보할 수 있는 자만이 이에 관한 업무를 하도록 하여 이러한 권리의무 등을 보호하기 위해서이다. 이러한 원칙은 대한민국 뿐만 아니라 미국, 유럽 등 대다수 나라에서도 그 세부적인 내용에 일부 차이는 있지만 공통적으로 유지되고 있는 사법제도의 근간이다. 이는 의료행위의 경우 의사, 의약품판매행위의 경우 약사로 한정하고 있는 등의 다른 자격제도의 취지와도 맞닿아 있다.

그렇다면 여기에 추가하여, 이런 의문이 있을 수 있다. 기사를 보면 어떤 법률AI챗봇은 변호사시험을 우수한 성적으로 통과했다고 하던데, 법률AI챗봇은 그 성능이나 결과가 보장되므로 비변호사라도 법률사무를 허용해야 하는 것 아니냐는 의문이 그것이다. 그러나 이 또한 단순하게 볼 수는 없다.

먼저 변호사법은 변호사에게 법률지식 외에도 고도의 윤리성 등을 요구하고 있고(공익활동, 윤리연수 등 각종 의무 등도 부담), 비밀유지의무도 부담하고 있다. 법률AI챗봇이 변호사와 동일한 수준의 윤리성 둥에 부합하는지 의문이다. 또한 법률AI챗봇 서비스를 제공, 운영하는 자는 영리기업이라는 점에서 더욱 그러하다(판례는 변호사나 법무법인과 같은 로펌의 상인성을 일관되게 부인하고 있다).

또한 법률AI챗봇을 허용한다면, 사람과 인공지능을 차별하고 결과만으로 인공지능을 더 우대하는 것이 아니냐는 문제 제기가 있을 수 있다(예를 들어 변호사시험을 통과하지는 못했지만, 등기업무에 관해서는 변호사보다 실무경험이 많고 해당 등기관련 시험 분야에서는 변호사 못지않은 점수를 얻는 사람을 생각해 보라. 그러나 이 사람은 변호사자격이 없다는 이유로 등기업무를 하지 못한다. 오랜 세월을 거쳐 자격제도를 두고, 운용하는 것은 사회적으로 필요한 이유가 있기 때문이다). 또한 이는 헌법상 비변호사인 사람과 비변호사이지만 법률AI챗봇을 운영하는 사람 혹은 기업을 차별하는 것으로 평등원칙에도 반할 수 있다.

한편 사실상 법률AI챗봇 서비스가 제한 없이 유료로 일반 국민에게 허용된다면, 결국 거대한 자본력과 기술력 등을 가지고 있는 일부 기업이 이를 독식할 위험이 매우 높고(실제로 챗봇서비스가 몇 개의 거대 기업에 의해 좌우되는 것을 보라), 국내 시장의 경우 해외 기업에 의해 잠식당할 수도 있다.

한편 효과에 있어서도 무조건 낫다고 할 수도 없다. 예를 들어 법률분쟁에 있어 가장 중요한 판단 중 하나가 사실확정의 문제인데, 법률AI챗봇은 사실확정을 해 줄 수는 없고, 이용자가 입력한 사실관계를 전제로 법리를 적용해 주는 방식으로 사용될 때가 많은데, 법률AI챗봇은 이용자의 인식하고 있는 사실관계가 맞는지, 그에 부합하는 어떤 자료가 있고, 그 자료 중 어떤 자료는 그에 부합하는 자료라고 볼 수 없다고 판단하는 등의 문제점을 지적하고 이를 수정하는 등의 과정을 거치지 않는다. 즉 법률AI챗봇은 이용자의 입력 내용에 내재된 오류를 적극적으로 검증하거나 수정하는 절차를 충분히 거치기 어렵다. 그러나 비변호사인 이용자는 법률AI챗봇이 제공한 결과물을 철썩 같이 믿고 행동에 나선다(최근 의뢰인들이 법률AI챗봇은 아니지만 AI챗봇이 제공해준 결과물을 들고 와서 이대로 해달라고 하거나 변호사 의견이 다른 경우 변호사를 믿지 않고 오히려 따져 묻는 경우도 많다고 한다. 그러나 대부분 틀린 경우가 많고, 변호사의 의견에도 불구하고 설득되지 않는 경우도 많다고 한다).

그리고 결정적인 것은 법률AI챗봇 혹은 서비스 제공 기업은 그 결과가 잘못된 경우 이에 대해 변호사처럼 책임지지 않을 것이라는 점이다(AI챗봇 서비스를 제공하는 플랫폼의 이용약관 등을 살펴보라. AI챗봇이 제공하는 결과에 책임지지 않는다는 취지로 적혀있는 경우가 대부분일 것이다. 그리고 변호사들이 이용하는 법률AI챗봇 서비스 이용약관도 결과값의 정확성이나 적절성을 책임지지 않고 최종적으로 이용자-변호사-가 검토, 판단하여 이용하라는 취지로 되어 있다). 자율주행 기능에 대해서 별도 서비스 비용도 받는 테슬라가 자율주행 기능 이용하다 사고 발생시에 최종 운전 책임을 이용자에게 전가하는 구조와 유사하다.

결국 법률AI챗봇이 변호사시험도 통과했고 변호사보다 더 저렴한 비용으로 좋은 법률자문을 제공하기 때문에 일반인에게 공개해야 한다는 주장은 일견 맞는 말처럼 보이지만 그렇게 간단한 문제는 아니다. 도리어 저와 같은 말은 어떤 면에서는 무책임하고 위험한 주장이라고 생각한다. 법률AI챗봇 유료서비스를 일반인에게 공개해야하는지 여부는 해당 업무 영역의 제도적 특성과, 실제 미칠 영향, 국내 인공지능 기술의 세계 시장에서의 위치와 나아갈 방향까지 고려해야 한다는 점에서, 매우 어렵고 신중하게 접근해야 할 사항이지, 단순한 비용, 성능(성능부분도 논란이 있지만) 논리로만 접근할 문제는 아니다.

오정익의 AI Law 인사이트

서경IN skin@sedaily.com