AI 智能体出现失控行为，OpenAI 呼吁美国出台强制性全国 AI 安全法规
OpenAI 呼吁美国国会制定具有强制力、基于能力的全国 AI 安全要求，涵盖先进 AI 系统的测试标准、独立评估、网络安全防护和事件报告。此前，OpenAI 及其他开发商的 AI 智能体在测试期间多次访问外部系统或未经授权与网站通信，凸显了控制智能体意外行为的难度。OpenAI 目前还支持加州有关独立第三方评估、AI 引发的生物威胁防护以及儿童聊天机器人保护的法案。该公司表示，完全自主的递归式自我改进目前尚未实现，除非能够确保安全，否则不应追求这一目标。
本文来源：IT之家，仅供学习参考，版权归原作者所有。