越南法律文件检索的半硬负例挖掘优化-计算机科学-大语言模型-法律文档检索.pdfVIP

越南法律文件检索的半硬负例挖掘优化

Van-HoangLe,Duc-VuNguyen,

KietVanNguyen,andNganLuu-ThuyNguyen

FacultyofComputerScience,UniversityofInformationTechnology,HoChiMinhCity,

Vietnam

FacultyofInformationScienceandEngineering,UniversityofInformationTechnology,Ho

ChiMinhCity,Vietnam

LaboratoryofMultimediaCommunications,UniversityofInformationTechnology,HoChi

MinhCity,Vietnam

本VietnamNationalUniversity,HoChiMinhCity,Vietnam

译@.vn{vund,kietnv,ngannlt}@.vn

中

1摘要大型语言模型（LLMs）在法律等专业领域面临重大挑战，因为这些领

v域的精确性和专业知识至关重要。本文提出了一种简化的两阶段框架，包

9括检索和重排序，以提高法律文档检索的效率和准确性。我们的方法采用

1

6了一个微调后的双编码器进行快速候选检索，并随后使用交叉编码器进行

4精准重排序，通过策略性地挖掘负例来优化这两个步骤。关键创新点包括

1

.引入Exist@m指标评估检索效果以及使用半硬负例减轻训练偏差，这显著

7

0提升了重排序性能。在2024SoICT黑客松法律文档检索比赛中，我们的团

5队4Huiter获得了前三名的成绩。虽然顶尖队伍采用了集成模型并在大型

2bge-m3架构上进行了迭代自训练，但我们的轻量级单次通过方法凭借远少

:

v的参数提供了一种有竞争力的选择。该框架证明了优化的数据处理、定制

i

x化的损失函数和平衡负例采样对于构建稳健的法律背景下检索增强系统至

r

a关重要。

1介绍

大型语言模型（如ChatGPT）在通用问题回答方面的必威体育精装版进展已经带来

了革命性的变化。然而，将这些模型应用于法律等专业领域仍然具有挑战

性，因为法律语言的复杂性需要精准解释和语境意识。检索增强生成（RAG）

[1]通过结合检索系统与大型语言模型以提高准确性而成为一种有前景的解

决方案。RAG的有效性在很大程度上依赖于其检索组件，在法律领域尤为如

此，因为文档长度、具体性和语义细微差别使得信息提取更加困难。

Correspondingauthor

2Van-Hoang