你真的确定吗？指令微调对置信度和词汇多样性的影响
本研究考察指令微调如何改变语言模型表达的置信度，以及回答理由的语言多样性。研究人员在多个问答基准上比较了三组配对的基础模型和指令微调模型。结果显示，尽管预测准确率变化有限、基于似然的校准能力下降，指令微调仍持续改变模型以语言表达的置信度。不同回答理由之间的多样性 consistently 降低，但表层词汇多样性的变化方向和幅度因模型及基准而异。在控制答案选择和理由长度后，这些差异仍然存在，表明置信度与理由多样性反映了指令微调带来的不同影响。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。