OpenAI 将 Habitat 从 Python 迁移至 Rust,称 CPU 效率提升 6 倍
OpenAI 已将 Habitat 从最初的 Python 客户端库发展为独立的分布式存储服务。公司称,该平台每秒处理超过 7000 万次请求,每周服务超过 10 亿用户,并管理超过 500PB 的数据。为解决高并发场景下的 CPU、内存和延迟问题,OpenAI 在两名工程师、Codex 和 GPT-5.5 的协助下,用 Rust 重写了整个服务。目前,Rust 版本已处理 95% 的生产请求。OpenAI 表示,新版本的 CPU 效率提升 6 倍,内存效率提升 15 倍,平均延迟和尾延迟也有所下降。公司计划在未来几周内完全弃用 Habitat 的 Python 实现。
本文来源:IT之家,仅供学习参考,版权归原作者所有。