EvoUndo：受可恢复性约束的 LLM 代理自我演化
EvoUndo 是一个用于表示、生成、诊断并独立验证 LLM 代理自我修改是否能在反事实状态下安全撤销的框架。在 600 个未见过的一次性自我演化任务中，研究人员发现 197 个能够提升能力、却未通过可恢复性验证的修改。传统修复策略一个也未能恢复；在使用扩展恢复语言的预言机分析中，则恢复了其中 191 个。研究表明，可靠的代理自我演化需要协同设计验证机制、精确状态定位、见证语义和恢复语言的表达能力，而不能仅依赖迭代式提示。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。