AVC-Reward:以事件为中心的音视频一致性评估
AVC-Reward是一种以事件为中心的评估框架,用于衡量联合生成音视频内容的一致性。该方法将音频和视觉事件分离分析,跨模态验证二者的关系,并从三个层面汇总结果:整体叙事协调性、事件级时间同步,以及细粒度属性对齐。研究团队将其实现为可训练的音视频奖励模型,并构建了AVC-Benchmark。该基准主要包含由多种音视频生成模型生成的正面和负面样本,用于比较自动评估与人类感知的一致性。论文称,AVC-Reward相比现有自动方法与人类判断更一致,能够提供可解释的依据来定位失败原因,还可以作为在线强化学习信号,提升联合生成模型的音视频一致性。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。