消息称理想汽车探索自研云端推理芯片，沿用数据流架构
据多位消息人士透露，理想汽车正在探索自研云端推理芯片，项目仍处于早期阶段，可能采用与其智能驾驶芯片相同的数据流架构。该芯片可承接部分目前由 GPU 执行的推理任务，包括智驾模型的数据处理、测试和仿真，以及大语言模型的请求处理。涉及参数更新的模型训练仍需使用专用训练芯片。一种可能路径是复用车端 NPU 的计算设计，将多个 AI 计算芯粒与高带宽内存、高速互联结合起来。与车端芯片相比，云端芯片需要处理更多模型、更快的模型更新、变化更大的输入长度和并发请求，还要支持动态批处理与集群调度，因此面临更复杂的工程挑战。
本文来源：IT之家，仅供学习参考，版权归原作者所有。