我们能否防御针对现实危机事件的人工智能生成视频攻击？
这项研究提出了 RA-Bench，这是一个用于检测描绘现实危机事件的人工智能生成视频的基准数据集。数据集共包含17,886段视频：来自10类社会风险的1,830段真实参考视频，以及由4个开源和5个闭源生成器制作的16,056段生成视频。研究评估了7种传统检测器、10个零样本多模态模型，以及2个专门针对人工智能生成视频检测进行微调的模型。结果显示，三类检测器都无法在整个基准上实现稳定泛化。生成质量、条件信息和采样种子会以不同方式影响各类检测器。能够误导人类观看者的视频，对现有检测器也很难识别；通过社交平台传播后，检测可靠性还会进一步下降。研究表明，现有方法难以可靠检测逼真的人工智能生成视频，需要开发能够适应不断演进的视频生成器的更稳健检测器。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。