Vela 将用户行为作为训练信号，提升大语言模型能力
许多基于大语言模型的应用需要从长期行为数据中推断用户偏好、意图及可能的后续行动。Vela 将匿名化的用户行为记录转化为训练任务和轨迹。研究利用 10 万名用户的数据，依据 91 种真实场景任务模板生成任务；经过筛选后，保留约 7.5 万项任务及选定的训练轨迹。对 Qwen3.6-35B-A3B 进行微调后，用户相关任务表现最高提升 11.5 分，通用基准测试平均提升 4 分。微调后再进行强化学习，相比直接从基础模型开始强化学习，成绩最高提高 7.7 分。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。