광주과학기술원(GIST)은 이흥노 전기전자컴퓨터공학과 이교수(ITRC 블록체인 지능융합센터장) 연구팀이 법률 분야에 특화된 ‘검색 증강 생성(RAG)’ 프레임워크 기술을 개발했다고 27일 밝혔다.
이 기술은 기존 AI 기반 법률 추론에서 발생하는 ‘할루시네이션(hallucination)’ 문제를 획기적으로 줄이며, 정확도와 투명성, 신뢰성을 높여 취약 계층을 위한 법률 지원뿐 아니라 법률 실무 전반에 폭넓게 활용될 수 있을 것으로 기대된다.
기존의 LLM 기반 법률 AI 시스템은 58~82%의 할루시네이션 발생률을 보이는 것으로 보고됐다. 이에 따라 AI가 정확히 검색한 법률 정보를 반영하는 RAG 기술이 주목받고 있지만, 기존 RAG 방식도 정보 검색의 한계와 법률 문맥에 대한 적용력 부족이라는 문제를 안고 있다.
이를 해결하기 위해 연구팀은 법률 데이터를 효율적으로 검색하고 활용하는 동시에 답변의 신뢰성과 정확도를 높인 법률 분야에 최적화된 ‘Legal Query RAG(LQ-RAG)’ 프레임워크를 개발했다.
LQ-RAG는 추론 과정에서 에이전트 기반의 반복적 개선 메커니즘을 명시적으로 적용해 최적의 답변을 도출한다. 생성된 답변은 평가 에이전트를 통해 맥락의 적절성과 사실적 정확성을 기준으로 평가된다.
중국의 생성형 AI ‘딥시크(DeepSeek)-R1’과 연구팀의 LQ-RAG를 비교하면 두 모델 모두 더 정확하고 정교한 답변을 제공하기 위해 고유한 기법을 사용하지만, 응답을 개선하는 방식에서 차이를 보인다.
딥시크-R1이 단일 모델 내에서 재귀적으로 응답을 개선하는 반면, LQ-RAG는 다중 에이전트 협력 방식을 통해 답변을 개선한다. 두 모델 모두 사람이 직접 피드백을 제공하지 않고, 자체적인 최적화 과정을 거친다는 공통점이 있다.
LQ-RAG를 적용한 결과, 기존 RAG 시스템 대비 법률 문서 검색 및 응답 정확도가 23% 향상됐으며, 파인 튜닝된 LLM과 비교해도 14% 높은 성능을 기록했다.
이흥노 교수는 “이 기술을 법률 문서 분석, 계약서 작성 자동화, 준법 감시 등 다양한 법률 업무에 적용할 계획”이라며 “검색 증강 생성(RAG)과 다중 에이전트 협업 기술을 결합해 신뢰성 높은 법률 AI 시스템을 구축하고, 보다 정확한 법률 분석과 신뢰할 수 있는 AI 기반 법률 솔루션을 제공할 것”이라고 밝혔다.
