用于视觉文档检索的生成式晚交互嵌入
一项研究分析了晚交互方法用于视觉文档搜索时的存储成本。现有压缩方法通常保留每页约1,000个向量中的一部分，或使用局部平均值，但在严格的存储限制下性能会明显下降；其他方案则需要重新训练编码器。研究人员对三种编码器进行分析后发现，这些向量位于单位球面上，并集中在内在维度仅为5到6的流形附近。将k-means质心归一化到球面表面，可以修正MaxSim分数被系统性低估的问题；与未处理的质心相比，nDCG@5最高提升0.093。基于这一几何特性，论文提出生成式晚交互嵌入（GLIE），旨在仅利用少量向量重新生成页面的完整向量集合。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。