通过校准式内容认证证明图像真实
一项研究使用过去四年发布的十种生成模型，评估了二十种深度伪造检测器。检测准确率从接近 99.5% 降至 76%；加入针对性扰动后，所有基线检测器的准确率都低于 2%。研究人员提出一种经过校准的替代方法，用于评估内容的真实性是否可能被合理质疑：如果已知生成模型能够忠实地重现内容，那么其合成来源就具有合理可能性。该方法可校准至误将生成内容认证为真实的比例不超过 1%。使用受攻击样本校准更严格的阈值后，在测试的有限扰动范围内仍维持这一上限，但不涵盖任意攻击。研究还发现，事后验证能力正在减弱：较新的生成模型能够重现更多受测的 Reddit 图像。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。