History Forcing:为长时程视频世界模型蒸馏依赖历史信息的后续生成
History Forcing 是一种 on-policy 蒸馏方法,旨在帮助自回归视频模型在长序列生成中保持一致性,尤其适用于人物或场景离开视野后再次出现的情况。该方法比较教师模型在有无有效历史上下文时的预测差异,并据此修正学生模型的训练目标。作者称,该方法在 13 亿参数模型中达到领先水平:15 秒视频的 VBench 质量评分为 85.07,60 秒视频的 VBench-Long 综合评分为 79.82。在视野外世界建模测试中,PlayWorld 的演化质量从 2.35 提升至 2.70,MemoBench 的物体一致性则从 58.43 提升至 62.18。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。