以更少训练学得更多：不确定性引导的渐进式收缩提升推理后训练效率
这项研究提出一种方法，逐步缩减推理训练数据，并精简训练期间的数据使用方式。研究利用蒙特卡洛推理树估计中间步骤的不确定性，先构建参考教师模型信息的精简数据集，再在监督微调过程中根据学生模型不断变化的状态调整优化方向。研究团队报告称，在多种基准测试和模型系列中，该方法仅使用全量数据 SFT 优化预算的 0.22%，就取得了相当或更好的推理表现。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。