A*-Thought-V2：利用大语言模型几何动力学实现高效潜在推理
A*-Thought-V2是一种旨在降低大语言模型思维链推理计算和上下文成本的框架。它将推理过程建模为隐藏状态轨迹：与问题到答案方向一致的步骤保留为显式文本，偏离方向的步骤则压缩为连续潜在标记。在Qwen3.5-9B和Qwen3.6-27B上的六项域内及域外基准测试中，平均准确率最高提升2.6个百分点，响应长度最多缩短一半。每计算单元的准确率提高了2.29倍，预处理和训练时间也显著减少。研究还发现，潜在状态会形成区别于文本状态的紧凑区域，可能有助于学习更丰富的步骤级特征。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。