ParetoRSI-Gym:AI代理能否在多个领域改进语言模型?
ParetoRSI-Gym是一个用于评估AI代理递归式自我改进能力的研究框架。代理搜索并筛选训练数据,训练语言模型,读取数学、编程、金融、医学和科学等领域的结果,然后重复这一过程,同时保持初始模型、工具和SFT流程等条件不变。在三个代理系统、三个基础模型、五轮实验和多个随机种子的测试中,表现最强的系统使所选检查点的平均泛化得分较初始模型相对提升9.2%,绝对提升2.3分。在Ministral-3-3B的医学领域,单一领域的相对提升最高达到63%。研究还发现,评估框架的重要性不亚于其驱动的模型,而且不同代理会形成各自的数据选择策略。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。