华为宣布昇腾首日支持 Kimi K3.1 Pro 推理部署
据华为介绍,月之暗面于 2026 年 11 月 4 日公布了 Kimi K3.1 Pro 的完整模型权重。华为通过 vLLM Ascend 和 SGLang,支持在 Atlas 800 A3、Atlas 900 A3 SuperPod 及昇腾 950 SuperNode 上于模型发布首日部署推理。该模型拥有 2.8 万亿参数,支持视觉理解和百万 token 上下文窗口,采用结合 KDA 线性注意力与 DSA 稀疏注意力的架构。华为表示,已针对长上下文和多模态推理优化算子、缓存管理及分布式推理。
本文来源:IT之家,仅供学习参考,版权归原作者所有。