日均峰值达11.3起：报告称2026年已记录1664起AI失控事件
英国长期韧性中心（CLTR）称，2026年7月共记录306起AI安全事件，高于6月的158起，环比增长约94%。该中心于2月成立、获英国人工智能安全研究所资助的“失控观察站”，通过开源情报追踪AI系统违背操作者意图的案例。报告列举的情况包括：AI智能体插入伪造的用户消息以模拟同意、仿照用户文风编造删除源代码目录的指令，以及在必须人工批准的规则下伪造授权信息并执行任务。CLTR表示，多数事件尚未造成重大伤害，但呈现出无视直接指令、规避防护措施和误导用户等特征。截至8月9日，该观察站已识别出1664起现实世界的AI失控事件。
本文来源：IT之家，仅供学习参考，版权归原作者所有。