SWIFT:通过目标外推实现自引导的弱到强扩散模型
该研究提出 SWIFT,这是一种利用冻结的弱去噪器来改进更强扩散模型的训练方法。它将干净回归目标沿远离弱模型预测的方向外推,以增强尚未充分学习的成分。辅助模型在主模型训练期间无需反向传播,训练后即可弃用,因此不会增加推理开销。在 CIFAR-10 和 ImageNet-256 上的实验显示,该方法在不同模型规模和表征下均有提升。在一项 ImageNet-256 配置中,SWIFT 以约一半的总训练计算量超过了基线的最佳 FID。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。