Inject、Align、Recover：通过分阶段后训练在无检索条件下内化文档知识
该研究探讨大型语言模型如何内化固定文档集合中的知识，并在推理时不检索原始文档的情况下回答问题。研究提出了三阶段后训练框架IAR（Inject、Align and Recover）。Inject阶段将文档转换为结构化的续写、改写和指令条件重构目标；Align阶段使用仅监督答案的问答数据调整模型；Recover阶段则将领域适配模型与基础指令模型合并，以恢复通用能力。在Common Corpus和CCI，以及Llama、Phi、Qwen和SmolLM模型系列上的测试中，IAR在8种数据集与模型设置中的7种上，四项报告指标均优于常规SFT。领域问答准确率平均提升3.6个百分点，在IFEval、MMLU和MSBench上的通用性能平均提升12.1个百分点。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。