ProAS:面向多轮智能体强化学习的进度感知优势塑形框架
论文提出 ProAS,旨在更精细地分配大语言模型智能体强化学习中的学习信号。该方法利用动态更新的 Agentic Reference Graph,屏蔽不合理激励并以非对称方式重新分配惩罚,无需增加评论器开销。作者使用 Qwen2.5-1.5B-Instruct 和 Qwen2.5-7B-Instruct 进行实验,报告称其在 ALFWorld 上的成功率分别最高达到 91.9% 和 94.3%,在 WebShop 上达到 66.7% 和 70.8%。研究还称,训练收敛速度最高提升至 2.44 倍。代码已公开。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。