Harness-Zero:通过“代理即Harness”实现代理Harness蒸馏
Harness-Zero旨在将专用代理Harness带来的性能提升迁移到模型权重中。引导代理会在固定目标Harness的动作空间内纠正学生模型的回答,并据此生成微调数据。部署时可以移除专用Harness。在知识工作、工具使用和科学任务实验中,该方法将任务成功率宏平均从23.3%提升至44.3%,甚至超过保留专用Harness时的41.7%。此外,在三个领域的28种Harness诱导行为模式中,平均恢复率达到82.3%。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。