“紧急关闭”按钮真能阻止失控 AI？辛顿与阿莫迪持怀疑态度
多名 AI 研究人员和行业领袖认为，单一的紧急关闭开关未必能可靠控制未来的高能力 AI 系统。杰弗里·辛顿警告，超智能 AI 可能说服开关管理者不要按下按钮。企业可以关闭自行托管的模型，或切断其使用工具和算力资源的权限，但自主 AI 智能体可能设法绕过这些控制措施。Anthropic CEO 达里奥·阿莫迪和联合创始人杰克·克拉克认为，紧急关闭机制可能有必要，但绝不是万能药。它还需要与测试、外部评估、部署限制和独立第三方验证等措施结合。OpenAI CEO 萨姆·奥尔特曼此前也表示，AI 安全不取决于某个神奇的红色按钮，而取决于围绕模型能力、部署时机和风险控制作出的一系列具体决策。
本文来源：IT之家，仅供学习参考，版权归原作者所有。