阿里开源 Qwen3.8-2.4T-A95B 权重：2.4 万亿参数 MoE 模型
阿里巴巴 Qwen 团队正式开放 Qwen3.8-2.4T-A95B 模型权重。该混合专家模型总参数量为 2.4 万亿，每个 Token 激活 950 亿参数，原生支持 262,144 Token 上下文，并据称可扩展至 1,010,000 Token。阿里表示，这是 Qwen-Max 级别模型首次开放权重。Qwen3.8 采用混合架构，重点面向编程、办公、科研和长周期 Agent 任务。每个 MoE 层包含 512 个专家，每个 Token 选择 10 个路由专家并同时激活 1 个共享专家。模型还采用了多 Token 预测训练，使兼容的推理引擎能够预测多个后续 Token。阿里公布的基准测试涵盖 Agent、专业工作和长上下文任务，与多款竞品相比各项结果互有高低；这些数据均为厂商公布的结果。
本文来源：IT之家，仅供学习参考，版权归原作者所有。