WorldAttention：面向交互式视频世界模型的高效注意力架构
WorldAttention 是一种面向文本条件交互式视频世界模型的注意力架构，旨在降低完整 KV 缓存带来的计算和内存开销，同时保留长程上下文。该系统结合线性全局注意力与自适应稀疏注意力，并通过分层缓存管理历史 KV 数据。论文报告称，在 VBench-Long 和 InterVBench 测试中，其主体一致性得分分别为 0.9472 和 0.9668，优于所比较的方法。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。