分层连续扩散语言模型
研究人员提出分层连续扩散语言模型（HC-DLM），在单一去噪过程中结合离散标记生成与连续潜在轨迹。不同于以往方法，HC-DLM将潜在表示作为唯一持续存在的生成状态：每一步都从中读取标记，并将其作为结构支架反馈给下一次潜在状态更新。在数独、Countdown数学规划和LM1B语言建模测试中，HC-DLM在相同模型规模下超过了离散与连续扩散基线模型，提升了谜题准确率和生成困惑度表现。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。