LimiX-2:面向结构化数据通用智能的上下文机制网络
LimiX-2是LimiX系列的新模型,专为处理结构化数据,尤其是表格数据而设计。该模型采用上下文机制网络范式,并使用结构因果模型生成的合成数据,通过上下文条件掩码建模进行预训练。研究团队在TabArena、TALENT和BCCO上的评估显示,LimiX-2的表现优于针对特定数据集的模型和现有表格基础模型。研究人员还表示,该模型的特征注意力能够编码直接因果关系,从而支持因果结构骨架的恢复。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。