Work2Skill 捕捉人类 GUI 操作经验,生成可复用的智能体技能
Work2Skill 是一个将人类 GUI 操作演示转化为计算机操作智能体可复用技能的框架。其基础设施 WorkRecorder 会同步屏幕录像、鼠标和键盘事件,以及可用的无障碍树信息。研究团队借此构建了 WorkDemo-350,包含 350 段经过完整性和任务成功率筛选的桌面操作演示。技能生成方法从演示中提取工作流规则、步骤依赖关系和完成检查。在相同设置下使用四种执行模型测试时,Work2Skill 在比较的方法中得分最高。与不使用技能的基线相比,它在 MyPCBench Bounded Action 上的平均分提高 4.67 至 10.54 分,在 OSWorld-Verified 的 286 项任务子集上提高 3.11 至 7.50 分。代码和数据已公开。
本文来源:Hugging Face,仅供学习参考,版权归原作者所有。