리걸테크, 리걸AI 고도화 박차…프롬프트 역량 부상

리걸테크 업계가 리걸AI 고도화를 꾀하며 프롬프트 역량 강화에 나섰다. 질문에 대한 답변 정확도를 높이고 이용자가 필요로 하는 핵심 내용을 제공할 수 있을 전망이다.

16일 업계에 따르면 로톡, 로앤굿, 인텔리콘 등 리걸테크 업체들은 자체 리걸AI를 개발하며 프롬프트 역량 강화에 힘쓰고 있다.

로톡은 AI가 허위정보를 생성하는 할루시네이션을 0%에 가깝게 통제하기 위해 거대언어모델(LLM)이 판례나 법령을 인용하면 정확도를 더블체크하는 자동 시스템을 마련했다. 인용이 적절하지 않은 경우엔 답변을 아예 새로 생성하게 한다. '피고'와 '피고인'을 헷갈려 하는 등 LLM의 실수가 관찰되면 재발하지 않도록 프롬프트 단에서 명시적으로 막기도 한다.

로앤굿은 △최신 자료를 과거 자료보다 우선하기 △특정한 변호사를 추천해달라고 할 때에는 그럴 수 없다는 대답하기 △특정인의 성명이나 명예훼손적 발언 등에 대해서는 답변을 거부하기 등의 프롬프트를 활용해 AI를 제작 중이다.

인텔리콘은 다중 에이전트 방식으로 프롬프트를 구성했다. 법률 AI가 질문의 법적 의도를 파악하고 생성 AI가 뒷단에서 질문을 재구성한다. 자동 수정된 질문은 이용자에게 역추천한다. 이후 AI는 프롬프트 자체를 학습해 자동으로 최적 프롬프트를 삽입한다.

넥서스AI는 법률문서 생성 시 사건과 관련된 최신 법률과 판례를 프롬프트에 포함시켜 답변의 최신성과 정확도를 높이는 방법을 사용할 계획이다.

리걸테크가 프롬프트 역량 강화에 나선 이유는 정확도를 높이기 위해서다. 데이터의 양과 질, 데이터 학습 및 검색증강기법(RAG) 역량도 중요하지만 프롬프트는 신뢰할 수 있는 레퍼런스를 바탕으로 실제 서비스 구현 품질을 높인다. 리걸 AI 제작 기업에게는 환각현상을 막을 수 있는 제어장치로 작용한다. 리걸 AI 이용자에게는 정확하고 상세한 정보를 전달할 수 있는 장치다.

다만 법률 전문가와 AI엔지니어의 협업은 난관으로 꼽힌다. 법률 전문가이면서 AI엔지니어 역량 갖춘 인력이 드물기 때문이다. 아울러 같은 쟁점에 대해 모순적인 내용이 존재할 경우 프롬프트 접목이 어려울 수 있다는 설명이다. 법률의 내용이 계속 개정된다거나, 같은 판례 내에서 하급심과 상급심 판결의 결론, 근거가 다른 경우 섬세한 프롬프트 작업이 필요하다.

리걸테크 업계 관계자는 “챗GPT 등의 LLM을 이용한 일반 생성 AI 채팅 서비스에 비해 전문가용 리걸 AI 서비스는 실제 업무용으로 활용될 수 있도록 하는데 집중해야 한다”며 “높은 정확도와 효율, 사용자 경험을 이끌어 내기 위해서는 법률 사무라는 특정한 직무에 최적화된 프롬프트 엔지니어링과 디자인이 필수”라고 말했다.

손지혜 기자 jh@etnews.com