思维惯性：即使被要求不要思考，LLM 仍会继续推理
一项研究考察能否可靠地抑制大型语言模型可见的推理过程。研究通过三项指标评估回答：是否严格只给出答案、答案前文本与问题的相关性，以及其中是否包含明确推理。对六个模型和多种题型的测试发现，仅凭“不思考”的指令无法可靠地消除可见推理。这种“思维惯性”在开放式问题中更常见。是非题和选择题的准确率保持稳定；开放式问题则显示，只输出答案的遵从度与准确率之间存在取舍。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。