Δτ-Bench:评估智能体应对不断变化的能力环境
论文提出可执行基准测试 Δτ-Bench,用于模拟大型工具生态的变化,包括服务消失、被替换或出现更高效的替代方案。该基准涵盖 42 个领域、6 个连续的生态状态,以及 1,588 项经过验证的多轮任务。评测中表现最好的模型或执行框架,任务成功率也仅为 42.3%。现有技能学习方法带来的初期提升,并不总能转化为适应生态变化的能力。论文还提出 Steward,联合管理工具和程序性知识;实验显示,它在生态变化期间以较低的技能维护成本取得了更高的任务成功率。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。