World Action Model 如何实现泛化？关于推理时未来建模的实证研究
World Action Model（WAM）在训练时不仅预测动作，也预测未来状态。本研究比较了两种方法：显式 WAM 在推理时生成未来视频帧；潜在 WAM 为提升速度而省略这一步。潜在模型在同分布任务上表现相近，但在环境变化、数据效率和新任务泛化方面表现较差。分析指出，差距主要源于动作专家不再利用未来表征。研究提出 Simple-WAM，使用完全加噪的视频 token，通过一次前向传播对未来建模。作者报告称，在模拟和真实世界任务中，Simple-WAM 达到显式 WAM 的泛化水平，同时保持接近潜在 WAM 的效率。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。