AdvFD:通过对抗式 Fréchet 距离损失提升视觉生成
Fréchet 距离近年来被用作生成器后训练的分布级目标,以补充样本级扩散损失和流匹配损失。但直接优化 Fréchet 目标可能导致“Fréchet 作弊”:目标指标不断提升,而视觉质量以及其他特征空间中的分布对齐却停滞或恶化。AdvFD在传统 Fréchet 损失使用的静态特征表示之外,引入经过校准的对抗式学习表示。该表示通过对抗训练最大化真实样本与生成样本之间的 Fréchet 差异,生成器则在自适应特征空间中最小化这一差异。对真实特征进行白化,可以防止通过放大特征来简单抬高目标值,并稳定极小极大优化。实验表明,AdvFD在不同规模的 JiT 和 pMF 骨干模型上,都能持续改善单步生成器后训练效果。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。