从智能体轨迹构建自动机：预测失败与下一步行动
一项研究将基于大语言模型的智能体执行轨迹压缩为紧凑的有限状态机。在12个公开数据集上，这些状态机包含7至43个状态，对留出数据的重放拟合度达到0.997以上，并可在数毫秒内构建。基于状态的上下文在所有具有匹配真实标签的数据集上，都优于Agent Workflow Memory的下一步预测。基于状态的行为特征在失败预测中取得最高0.94的AUROC。在线监控器还能够仅凭部分轨迹，将可能失败的运行排在成功运行之前，从而在任务完成前触发提前停止。研究结果表明，智能体的行为拓扑可能更多由部署框架塑造，而不是由底层语言模型决定，为安全审计和运行时监控提供了一种与模型无关的结构化基础。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。