DecisionRobust：评估 JEV 类决策模型在文本与视觉输入上的鲁棒性
DecisionRobust 是一个用于评估 JEV 类决策模型抵御文本和图像输入对抗性操纵能力的基准。测试涵盖保持语义的文本扰动、图像扰动，以及针对两种模态的提示注入攻击。研究评估了文本任务中的 30 种模型配置和视觉任务中的 17 种配置，并纳入未参与基准构建与候选筛选的保留模型。结果显示，攻击能够在其他模型上暴露漏洞，但经过优化的图像扰动对许多目标模型的迁移效果较弱。模型鲁棒性会因任务和攻击类型而异，能够抵抗输入扰动并不意味着能够抵抗提示注入。标签一致性检查还显著降低了文本和图像场景中测得的攻击成功率，表明验证模型表面失败的重要性。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。