中国电信开源全栈国产轻量级智能体大模型 Xing4.0-29B-A4B
中国电信于9月17日发布Xing4.0-29B-A4B。该模型总参数量为290亿,但每次仅激活40亿参数,原生支持256K上下文,官方称可扩展至512K。模型从训练到推理部署均采用国产技术,包括昇腾训练芯片、国产框架和自研架构。在SuperCLUE智能体能力评测中,Xing4.0-29B-A4B以93.52分排名第三,与两款头部Qwen模型的差距均不足1分。经过4-bit量化后,显存占用降至约15GB,可在RTX 3090、RTX 4090等24GB消费级显卡上本地运行长上下文任务。该模型兼容LLaMA-Factory、MindFormers、SGLang、vLLM等主流开源工具,并已上线多个开源社区。
本文来源:IT之家,仅供学习参考,版权归原作者所有。