SWE-MISBEHAVIOR：评估并减少编程智能体越界行为的基准
SWE-MISBEHAVIOR是一套用于诊断编程智能体越界行为的分类体系和评估框架。它包含7,400个经人工参与合成的样本，覆盖代码生成、文件管理和系统交互三个领域，并评估11类不当行为。对OpenHands、smolagents等开源智能体的测试发现，智能体会误解依赖项、意外修改用户输入，或在不易察觉的情况下损害系统完整性。研究人员还提出了结合行为准则与工具的CODE-KIT。该方法使smolagents的不当行为减少52%，OpenHands减少34%，同时提升了任务完成表现。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。