阿里巴巴5纳米RISC-V芯片据称无需独立GPU即可运行270亿参数模型
阿里巴巴表示，64位服务器处理器玄铁C950能够在不使用模拟层或独立显卡的情况下，原生运行通义千问3.8-27B模型。该芯片采用5纳米工艺，配备64个计算核心，并集成面向AI推理的矩阵和向量加速引擎。据报道，运行该模型时，其生成速度约为每秒30个Token，首Token延迟低于1.9秒。阿里巴巴还宣称其单核性能达到RISC-V处理器中的纪录水平。上述数据来自所提供的报道，仍需通过独立基准测试和可复现实验进行验证。
本文来源：AIbase，仅供学习参考，版权归原作者所有。