遗忘能否统一?探索统一多模态模型中的概念遗忘
统一多模态模型(UMM)既能生成图像,也能理解视觉内容。本研究探讨现有遗忘方法能否在保留其他能力的同时,从这两种能力中抑制指定概念。研究团队提出诊断基准 UUBench,涵盖 30 个目标概念和 60 个语义相关概念。实验表明,只处理单一路径的方法在跨两种能力的联合遗忘方面效果有限。研究提出的 UniForget 在 BAGEL-7B-MoT 上达到 80.0% 的联合遗忘率,在 Janus-Pro-7B 上达到 92.7%。进一步分析还揭示了遗忘目标概念与保留其他能力之间的权衡。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。