向量检索系统中的语义确定性评估：嵌入质量评价的新框架-计算机科学-机器学习-向量检索系统.pdf

向量检索系统中的语义确定性评估：嵌入质量评价的新框架

Y.Du

ymdu.1991@

Abstract邻域密度来评估嵌入质量的简单框架。我们的方法使自

适应检索策略成为可能，并提供了不同查询类型下嵌入

向量检索系统在不同查询上的性能表现出显著的差异，

质量系统模式的见解。

这是由于嵌入质量的异质性所致。我们提出了一种轻量

级框架，通过结合量化鲁棒性和邻域密度指标来预测查

询级别的检索性能。我们的方法是基于这样一个观察：高相关工作

本质量的嵌入占据嵌入空间中的几何稳定区域，并显示出密集检索系统

译一致的邻域结构。

中我们在4个标准检索数据集上评估了我们的方法，显示密集检索系统通过学习捕捉查询和文档之间语义

出相对于竞争基线在Recall@10上有9.4±1.2%的一致关系的连续向量表示，改变了信息检索的方式。DPR

1性改进。该框架需要极小的计算开销（少于5%的检索时引入了双编码器架构，分别将查询和文档编码为密集向

v

3间），并支持自适应检索策略。我们的分析揭示了不同查量，通过点积操作[1]实现高效的相似度计算。ANCE

3询类型中嵌入质量中的系统模式，为针对性训练数据增通过近似最近邻负采样[2]在此基础上进行了改进，而

9强提供了见解。ColBERT则引入了后期交互机制以实现更细粒度的

5

0匹配[3]。

.

7介绍BEIR基准在多种检索任务中提供了全面的评估，

0突出了零样本迁移和领域鲁棒性的挑战[5]。最近的进

5密集向量检索系统已成为现代信息检索的支柱，使

2在大型文档集合中进行语义有哪些信誉好的足球投注网站成为可能[1,2,3,4,5]。步包括跨语言密集检索[18]和多向量表示[19]。

:

v然而，这些系统面临一个基本挑战：嵌入质量在不同查

i嵌入质量评估

x询之间变化很大，导致检索性能不一致[6,7]。虽然像

r召回率@K这样的聚合指标可以提供整体系统性能的概理解嵌入质量已成为在大规模部署密集检索系统

a

览，但它们无法捕捉到单个查询性能的异质性[8,9]。的关键。早期的工作集中在通过词汇相似性任务[20]进

最近的研究强调了理解嵌入质量及其对下游任务行内部评估，但这些并不直接转化为检索性能。最近的

影响的重要性[10,11,12]。预测查询难度的问题在传统研究分析了上下文化嵌入的几何结构，表明更高层产生

信息检索中已经被广泛研究[13,14,15]，但在密集检索更加各向异性的表示[10]。

系统中相关的工作却很少[16,17]。嵌入质量与检索性能之间的关系仍然有待进一步

本文解决了一个实际问题：我们能否仅使用查询嵌探索。Hofstätter等人研究了不同池化策略对密集检索

入来预测查询级别的检索性能？我们的方法受到两个关的影响，而Luan等人则探讨了难负例挖掘在提升嵌入

键观察的启发：