OpenAI携手博通开发Jalapeño芯片,挑战英伟达
OpenAI在Hot Chips大会公布了与博通共同开发的Jalapeño推理系统的更多细节。根据OpenAI在SemiAnalysis的InferenceX平台上公布的测试结果,Jalapeño在每瓦处理量和端到端延迟方面均超过搭载英伟达GB200和GB300的系统。在GPT-OSS 120B、DeepSeek R1和Kimi K2.5 1T三个模型上,OpenAI称其每瓦可完成的AI工作量达到对比系统的1.5至1.9倍,延迟约为对比系统的28%至59%。OpenAI表示,芯片、内存、网络和模型的协同设计有助于降低预填充和通信阶段的瓶颈。公司计划在今年年底前先进行小规模部署,并从2027年起逐步扩大部署规模。不过,这些数据来自OpenAI公布的测试结果,目前尚未经过独立验证。
本文来源:IT之家,仅供学习参考,版权归原作者所有。