TraceForge：以模型自身的思维风格进行蒸馏
TraceForge 根据教师模型的上下文和回答，为学生模型生成推理轨迹。这种方法旨在应对部分供应商不公开模型详细推理轨迹的限制。训练分为两个阶段：生成器学习特定模型系列的风格，判别器则评估生成轨迹看起来有多真实。独立评估者给生成轨迹的平均真实性评分为 0.68，真实轨迹为 0.66，而由判别器挑选的轨迹为 0.82。这些分数衡量的是表面真实性，而非正确率。在五项基准测试中，通用任务的结果与其他训练语料大致相当。在编程任务上，生成的推理内容优于 Fable 5 自身的推理数据：使用相同的 5,000 道题目和教师模型回答，最终检查点在 HumanEval+ 提升 3.7 分，在 MBPP+ 提升 7.1 分。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。