Flow Matching 潜在推理的关键因素
潜在推理让大型语言模型在连续空间中思考，只将答案转化为语言。研究提出潜在思维应满足五项要求：有助于答对、具有多样性、可解释、能通过增加推理计算进一步改进，并且在准确率相近时比显式思维链更高效。研究聚焦于在学习得到的潜在空间中使用 Flow Matching，并提出 Flow-based Latent Reasoning（FLaRe）。针对五项要求的测试显示，FLaRe 优于此前的潜在推理方法。论文还报告称，在算术基准测试中，FLaRe 以四分之一的延迟达到了显式思维链 97% 的准确率。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。