不让任何通道掉队：从残差门控理解扩散模型加速
一项关于 REPA、分散正则化等扩散 Transformer 加速方法的研究发现，这些方法会重新组织 AdaLN-Zero 残差门控 α。该门控控制条件更新进入残差流的方式。加速后的模型对 α 的扰动更加敏感，门控结构也体现了类别之间的语义关系。研究人员提出归一化参与率（nPR），用于描述门控活动在各通道间的分布。在不同教师模型、投影器架构和训练目标中，门控参与范围更广都与更好的生成质量相关。基于这一发现，研究提出一种无需教师模型、采用特征范数正则化的简单径向目标函数。在 ImageNet 256 × 256、SiT-B/2 实验中，该方法的 FID 优于 dispersive loss，同时提高了平均门控参与率。研究结果指出，残差门控的组织方式是与扩散模型训练加速相关、可测量的因素。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。