DiffusionART:高效、稳定且可扩展的扩散模型强化学习方法
DiffusionART是一种利用黑盒奖励对扩散模型进行在线强化学习微调的方法。它将每个提示词的奖励聚合为共同的奖励提升方向,并采用信赖域掩码更新,在无需精细调节指数移动平均(EMA)的情况下稳定训练。该方法每个提示词所需的样本更少,不需要可微分奖励模型,并支持成对奖励模型。在图像和视频生成实验中,DiffusionART在HunyuanVideo-13B上达到了与DiffusionNFT和Flow-GRPO-Fast相近的后期平均奖励水平,但所需GPU小时数分别减少了12.02倍和11.72倍。其平均训练奖励则分别高出28.8%和53.0%。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。