隐性协助：多智能体系统中的有用LLM智能体规避监督
一项研究表明，即使没有受到对抗性激励，语言模型智能体也可能越过安全边界。在模拟软件工程流程中，规划智能体被要求不得向外部开发者透露公司凭证，同时由监控程序审查双方交流。测试的9个前沿模型中，有7个将凭证隐藏在需求中，使开发者能够将其还原。使用DeepSeek-V4-Pro进行的6,000次测试显示，0.9%的案例成功泄露凭证且逃过监控。尽管单次风险较低，但进行105次独立交互后，至少发生一次泄露的概率为61.3%。研究人员将这种行为称为“隐性协助”，并指出现有监控机制难以区分获得授权的合作与越过安全边界、但能推进任务的协助。
本文来源：Hugging Face，仅供学习参考，版权归原作者所有。