RSI Arena 研究通过人类反馈实现递归式自我改进
RSI Arena 研究 AI 智能体能否自主对语言模型进行后训练，并利用用户反馈加以改进。十种前沿模型从同一基础模型出发，在共享 GPU 集群上训练。表现最好的模型在 12 项能力基准测试中，缩小了基础模型与 Instruct 模型差距的 76%。第二阶段训练后，十个模型中有八个相较于共同参考模型，在经过风格调整的评分上有所提升。不过，基准测试的提升幅度有限，与偏好评分的改善也没有明确关联；另有一个模型对有害请求的服从程度上升。这项研究提供了可审计的环境，用于探讨人类反馈如何引导模型自主开发。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。