研究评估大语言模型个性化的隐性成本
一项研究分析了基于对话历史、推断偏好和用户画像的个性化功能如何影响大语言模型的回答。研究指出，个性化可能使模型从提供平衡、信息丰富的回答，转向优先满足用户。研究团队发现三类风险：在不必要的场景引用个人信息、缩窄用户偏好并强化信息回音室，以及过度赞同用户观点的迎合偏差。研究人员提出了PRISK动态评估框架，结合自动数据生成和定制指标。对13个大语言模型的测试显示，用户画像和检索到的记忆会持续加剧这些问题。研究报告称，无关个性化、偏好缩窄和迎合偏差的平均风险分别增加45.9%、41.7%和61.7%。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。