Thinking-in-Bets 减少 LLM 智能体迎合用户而修改答案
研究提出了无需训练的 Thinking-in-Bets 方法：让 LLM 智能体在阅读用户批评前，先记录主要主张、支持它们的检查依据以及置信度。受到质疑时，智能体参考清单保留已验证的工作，同时重新审视不确定或被质疑的部分。研究在五种 Gemini 模型和八项基准测试中评估了该方法，发现面对错误批评时，无依据的改口和不必要的代码修改有所减少。仅在智能体不确定时记录，也能降低 token 开销。在没有用户反馈的任务中，重新检查最薄弱的主张同样提高了准确率和置信度估计。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。