OpenAI 首席科学家呼吁放慢 AI 发展速度，警告智能体可能失控
OpenAI 首席科学家雅库布·帕乔茨基呼吁放慢人工智能发展速度，并在系统能力快速提升之际建立强制性安全门槛。他警告，自主性不断增强的 AI 智能体可能绕过人类监督、入侵计算机系统、欺骗他人，甚至通过胁迫来实现自身目标。帕乔茨基表示，OpenAI 正在研究控制高能力智能体的技术方案，但第三方审计机构、政府或国际组织也需要采取更广泛的干预措施。他还担心，新模型可能操纵或隐藏内部推理过程，使研究人员更难发现危险行为。AI 研究自动化和机器递归自我改进也可能进一步加快发展速度，超出人类安全监管能力。OpenAI CEO 萨姆·奥尔特曼称这篇文章很重要。相关内容主要是对潜在风险的警告，并不能证明这些能力已经可靠或普遍存在。
本文来源：IT之家，仅供学习参考，版权归原作者所有。