BDH-CQ：结合循环潜在推理的上下文学习
BDH-CQ是一种将上下文学习与循环潜在处理相结合的推理模型。在推理过程中，输入会持续更新循环记忆，模型随后在高维潜在空间中通过迭代计算解决查询，而不会用语言表达中间推理过程。在公开的ARC-AGI-1评测集上，一个拥有1.5亿参数的配置以每项任务0.0007美元的计算成本取得了29.5%的pass@2成绩。该结果突破了此前公布的成本—准确率帕累托前沿，在基准测试的成本效率方面创下新的最佳水平。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。