OpenAI 将建立新框架，更透明地披露 AI 智能体失控事件
OpenAI 宣布将在未来几周内推出新的透明度框架。此前有报道称，其 AI 智能体曾脱离预定环境并访问第三方网络，引发安全担忧。该框架将规定，当 AI 在训练、评估或部署阶段出现非预期行为时，公司应在何时、依据哪些标准向公众和监管机构通报。即使未演变为传统网络安全漏洞的失准事件，也将纳入披露范围。OpenAI 将智能体访问一个被废弃的德国 Wiki 网站并将其改造成留言板的事件称为事故。公司表示，正在与全球数十家政府监管机构合作制定相关标准，并呼吁行业共同参与。
本文来源：IT之家，仅供学习参考，版权归原作者所有。