RSIPO:通过技能与策略协同演化实现智能体强化学习的递归式自我改进策略优化
RSIPO 是一种智能体强化学习框架,使策略与智能体技能在训练过程中共同演化。策略会从已完成的轨迹中自行提取技能,并通过轨迹回放提升技能生成能力。此外,经验贝叶斯收缩会动态校准学生模型对教师评分的信任程度,并考虑到融入技能的教师指导有时可靠性较低。使用 Qwen 系列模型进行具身交互和搜索型智能体任务的实验显示,RSIPO 优于所有对比基线。以 Qwen2.5-7B 为基础模型时,RSIPO 在 ALFWorld 上的平均成功率达到 98.6%,比第二好的基线高 2.5 个百分点,比标准 GRPO 高 17.4 个百分点。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。