PARSER:为长上下文大语言模型代理实现并行阅读与深度推理
PARSER 将文档阅读与推理过程分离。多个轻量级子代理分别并行读取文档片段,主代理则通过反复的分发—汇总流程检索和整合证据,并根据已发现的信息提出更深入的后续查询。只有主代理通过强化学习进行优化,子代理继续使用未经修改的现成模型。在上下文长度为 7,000 至 896,000 个 token 的多跳问答测试中,4B 版本的 PARSER 平均比最强的顺序记忆基线高 5.7 分,在 896,000 个 token 时高 12.0 分。9B 版本比 DeepSeek-V4-Pro 高 6.3 分。该方法对证据位置、顺序和距离的变化也更稳健,同时将推理延迟最多降低了 11 倍。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。