面向可组合非结构化知识编辑的混合策略自编辑
该研究提出 HPSE，可在不改变无关知识的情况下更新大语言模型中的特定事实。现有非结构化知识编辑方法虽然能让模型回忆插入的段落，但往往无法回答其中单个事实的问题，也不能将这些事实组合起来进行多跳推理。HPSE 不需要外部监督，而是利用同一模型在特定上下文中的优势状态进行自蒸馏。当模型无法覆盖新知识时，混合式 rollout 会将缺失事实精准加入模型轨迹的相应位置，其余部分保持 on-policy。研究在四种语言模型骨干和两种知识编辑器上的多种场景中进行实验，结果显示该方法能够提升非结构化知识编辑的可组合性。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。