面向长时程自回归视频生成的滚动边缘蒸馏
自回归视频生成支持低延迟、流式输出,但在较长的生成过程中,预测误差可能不断累积。滚动边缘蒸馏(RMD)使用模型自身生成的序列进行训练,并通过片段级教师模型独立评估每个视频片段,从而减少不完善的时间上下文对视觉质量修正的干扰。随后,方法再采用视频级分布匹配蒸馏,以恢复时间连贯性。实验结果显示,RMD 在远超训练时长的生成过程中仍能保持较高视觉质量,并优于视频级 DMD 基线。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。