字节跳动与清华AIR发布CUDA Agent:训练大模型编写超越编译器的GPU内核
字节跳动Seed团队与清华大学智能产业研究院(AIR)发布了CUDA Agent,这是一套通过强化学习训练大语言模型优化GPU内核的系统。该智能体运行在配备性能分析工具、正确性校验和安全沙盒的真实CUDA开发环境中。经过最多150步的PPO训练后,系统在KernelBench的250项任务中达到98.8%的通过率,生成内核中有96.8%的运行速度超过torch.compile。完整模型权重目前尚未公开,但团队已发布包含6000个样本的数据集、SKILL.md规范以及训练和奖励配方。
本文来源:AIbase,仅供学习参考,版权归原作者所有。