博通推出 VMware AI Factory，简化企业私有云 AI 部署
博通宣布推出 VMware AI Factory，这是一套基于 VMware Cloud Foundation（VCF）的软件定义平台，用于支持企业私有云中的 AI 部署。博通表示，该平台可自动化基础设施部署，汇集企业内部的 GPU 资源，并将从服务器部署到 AI 模型开始提供服务的时间从数周缩短至数小时。平台提供统一模型库和管理界面，可在虚拟机、容器及 GPU 资源之间部署和管理模型推理与 RAG 工作流，同时监控 Token 吞吐量、延迟以及计算和内存利用率。该平台将支持 Cisco、戴尔、联想和超微的 VCF AI ReadyNodes 认证产品，以及不同的 AI 软件和加速器架构。
本文来源：IT之家，仅供学习参考，版权归原作者所有。