用于离散扩散的单纯形松弛
该研究提出 Simplax,一种用于离散扩散模型的精确狄利克雷—类别增强方法。它将每个受损的类别状态与一个单纯形值辅助变量结合,同时在类别边缘分布上保留原有的一致扩散过程。该方法由此实现了可处理的 Rao-Blackwell 化反向桥接目标和随机反向采样器。在 OpenWebText 无条件生成中,Simplax 改善了生成困惑度与熵之间的权衡;在 Sudoku 生成中也取得了较高的准确率和有效性。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。