RenderRank:使用压缩视觉 Token 对文本重新排序
RenderRank 是一种重排序模型,将文档作为图像处理,使用压缩视觉表示取代传统的文本 Token 序列。模型先让相关性评分与基于文本的教师模型对齐,再优化同一查询下正例和负例文档之间的相对评分。在 11 个 BEIR 数据集上,RenderRank 减少了 16.5% 至 35.5% 的输入 Token,平均 NDCG@10 为 55.96。在长文档数据集上,其平均 NDCG@10 达到 88.27,输入 Token 数约为受测文本重排序模型的一半;平均吞吐量则达到受测基线中最高吞吐量的 1.70 倍。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。