无需语言预训练的文本生成图像模型
Halcyon模型系列表明，无需进行互联网规模的语言预训练，也能训练出性能良好的文本生成图像系统。这些自回归多模态模型使用1亿组图像文本对从头训练。Halcyon-0.52B和Halcyon-1.6B的gFD分数优于对比模型，同时大幅减少了预训练所需的计算量。对照实验还发现，仅进行文本预训练并不能提升文本生成图像的效果。代码和模型已公开。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。