美国议员提案：政府建立安全防护机制前，禁止AI进行递归式自我改进
民主党联邦众议员罗·康纳准备提出《人类控制AI法案》。法案拟规定，在联邦政府建立安全规则且主管机构批准相关活动前，AI模型不得进行递归式自我改进，也不得自主修改核心目标、遏制机制或关停控制。法案计划设立新的联邦机构，通过许可制度管理前沿模型的训练和部署，开展审计并制定安全标准，同时要求前沿AI实验室配备独立审计人员。提案还涉及与互联网物理隔离的测试环境、紧急关闭开关、防止模型脱离实验室后自行运行的控制措施，以及对先进芯片使用的监管。造成严重后果的部署可能面临刑事处罚，AI企业还必须购买广泛的责任保险。目前该法案仍处于提案阶段，尚未成为法律。
本文来源：IT之家，仅供学习参考，版权归原作者所有。