蚂蚁集团开源 Ling-3.1-Flash:560B 级模型可用 4 卡部署,支持最高 100 万 Token 上下文
蚂蚁集团模型团队百灵开源 Ling-3.1-Flash,并在 Hugging Face 和 ModelScope 提供权重下载。模型总参数约 560B,每个 Token 激活约 25B 参数,支持最高 100 万 Token 上下文。团队对 routed experts 采用 MXFP4 量化、对 dense 层采用 block-FP8,将权重占用从约 534GB 降至 292GB;在 Hopper GPU 测试配置中,部署所需 GPU 数量从 8 卡降至 4 卡。蚂蚁公布了模型在办公、医疗、软件工程和终端操作评测中的表现,并称其 Artificial Analysis 智能指数为 41、生成速度约每秒 210 Token。混合调用价格约为每百万 Token 0.19 美元。
本文来源:AIbase,仅供学习参考,版权归原作者所有。