交接成本:LLM 智能体如何延续非原生轨迹
一项研究分析了在长期编程任务中,于低成本、低能力模型与高成本、高能力模型之间切换的影响。接收模型必须延续另一个模型生成的任务轨迹,包括工具使用和代码修改。对 Claude 和 GPT 模型组合的测试显示,切换到更强模型时,即使传递完整轨迹,也只能弥补不到一半的能力差距,同时带来显著的成本溢价。相比之下,切换到更便宜的模型能实现更有利的成本与质量平衡。最佳的轨迹信息量也取决于切换方向。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。