方法更多,智能体就更好吗?重新审视智能体强化学习中的自蒸馏
一项研究使用三种模型规模,在 ALFWorld、ScienceWorld、Search-QA 和 WebShop 上将十种代表性自蒸馏方法与 GRPO 进行比较。研究包含 132 次训练,记录的 H800 GPU 时间总计 12,124.4 小时,并使用八个 rollout 随机种子进行重复评估。结果显示,没有一种方法能在所有设置中持续优于 GRPO;较高的最终性能可能掩盖训练不稳定;增加训练成本也不一定带来更好表现。研究团队发布该基准,以支持更公平的比较,并推动更可靠、成本效益更高的智能体训练研究。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。