CrossSWE:评测编程智能体跨代码库协同开发的基准
CrossSWE 是一项评测软件开发任务的基准,这些任务要求在相互依赖的多个代码库之间协调修改。它包含 171 个真实案例,覆盖 165 个代码库、20 个技术领域和 13 种编程语言。基准会检验仅修改部分代码库是否不足以实现预期行为。在对五种大语言模型的评测中,表现最佳的 GPT-6.1 Sol 的 Pass@1 也只有 58.48%。代码库之间的不一致是最常见的失败原因。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。