Gated Hindsight Distillation让移动端GUI智能体从下一张截图中学习
GUI智能体通常使用成功的交互轨迹进行训练，但标准模仿学习会丢弃每次操作后出现的屏幕。下一张屏幕可能包含解释操作为何正确的关键证据，例如只有菜单打开后，智能体才知道应点击“编辑”或“查看”。Gated Hindsight Distillation（GHD）在训练中将下一张截图作为特权信息。学生模型只能看到可观察的轨迹前缀，而共享参数的教师模型还会查看下一张截图，并重新评估学生在实际执行中的响应。只有当学生失败、且利用后见信息的教师能够恢复示范动作时，才会应用蒸馏。在两个视觉语言模型上的AndroidWorld和AndroidLab测试中，GHD的任务成功率超过了GRPO。研究团队表示将公开代码和模型检查点。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。