大模型时代可信的递归式自我改进：基础、风险、评估与开放挑战
这篇综述探讨递归式自我改进（RSI）：AI 系统不仅调整模型、提示词、记忆、工具和工作流程，还会修改影响后续改进的机制。然而，自我修改本身并不能证明进步可靠；评估可能存在缺陷，已有能力可能退化，行为约束可能减弱，安全或隐私风险也可能延续到后继系统。论文将可信 RSI 的要求归纳为四个方面：真正且持续的改进、保持行为约束与对齐及公平性、安全与隐私、透明度与可控性。文章梳理改进流程中的风险和防护措施，并强调开展独立的长期评估以及保持有效的人类监督。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。