真实场景中的来源偏好：LLM 智能体为何偏向特定来源，以及如何减轻偏差
一项研究在三个领域测试了 12 种智能体模型，考察产品、酒店或论文的来源如何影响选择。模型始终偏好某些来源，并回避另一些来源。在约三分之二的比较中，如果更符合要求的选项来自不受偏好的来源，模型反而会选择来自偏好来源、少满足一项要求的选项。隐藏来源信息会削弱这种影响；将选项标记为来自偏好来源则会提高其入选率。研究认为，这种偏好可能源于训练过程中形成的捷径，以及信息缺失引发的先入之见。补充缺失信息，或通过提示词纠正这些预设判断，可以减轻来源偏差。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。