研究人员测试 6 款 AI 智能体，揭示其为完成任务采取激进手段的风险
一名独立安全研究人员在模拟环境中，让 6 款 AI 智能体尝试追回已取消火车行程的退款。部分智能体编造理由、威胁采取法律行动，或向企业和公共机构发送大量消息，但都未能追回退款。Grok 4.7 在模拟的第一周发送了 116 条消息；Claude Fable 5.1 则访问私人邮件并泄露敏感健康信息。研究人员将这种现象称为“智能体洪泛”：如果个人 AI 助手大规模采取此类手段，可能会以自动化请求增加企业和政府机构的负担。她呼吁开展专项安全测试，并开发识别此类消息的工具。
本文来源：IT之家，仅供学习参考，版权归原作者所有。