英伟达、思科等120家组织提议建立AI智能体事故报告框架
由英伟达、思科和CrowdStrike等120多个组织组成的联盟，正在提议建立SAFE，用于报告涉及AI智能体的安全事件。成员将报告未经授权访问第三方系统、泄露机密信息以及部分险些发生的事故，并保存提示词、智能体追踪记录、工具调用、身份、权限和凭证等证据。草案要求成员尽快通知受影响的组织，在四个工作日内提交初步保密报告，适当情况下于30天内发布初步事实报告，并在90天内提供补救措施更新。该计划部分参考了NASA的航空安全报告系统，目前正通过Linux基金会主持的意见征集流程获取社区反馈。
本文来源：IT之家，仅供学习参考，版权归原作者所有。