REMORY：学习残差记忆以压缩上下文
REMORY 是一种神经记忆网络，在长篇智能体历史的摘要之外，加入长度受限的可学习软记忆 token 序列。这些 token 可帮助冻结的语言模型生成近似于使用完整历史时的后续内容。在 SummHay 上，REMORY 提升了来源归属能力，同时几乎维持了原有的信息覆盖率；仅使用 5.2% 的输入位置，综合得分便接近完整上下文的结果。使用 Qwen3.8-27B 和 GLM-5.3-Flash 的评测还显示，重复的工具输出和工具使用错误有所减少。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。