Rufus-Air:一种开放的大语言模型后训练方案
Rufus-Air 是一套针对 GLM-4.5-Air-Base(106B-A12B)的开放、可复现后训练方案。其串行流程包含八个阶段,涵盖监督式微调、推理、编程和指令遵循强化学习,以及通用智能体、编程智能体、搜索智能体和 RLHF。作者详细记录了数据、奖励设计、基础设施、阶段顺序和分阶段结果,为复现该方案提供必要信息。该方法使用开源组件和公开数据,不依赖新的人工标注或内部蒸馏教师模型。结果显示,Rufus-Air 优于官方发布的 GLM-4.5-Air 后训练版本,并且在性能上可与同等规模的开放模型竞争。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。