谷歌 DeepMind 安全研究员离职，警告 AI 五年内造成重大危害的风险极高
谷歌 DeepMind 通用人工智能安全团队研究员乔希·恩格尔斯已离职，转而加入独立 AI 评估机构 METR。他表示，未来五年内 AI 系统造成灾难性危害的概率“高得吓人”。恩格尔斯尤其担心递归自我提升，即 AI 系统协助开发能力更强的后继模型。他警告，如果对齐和安全技术无法跟上模型能力增长，风险可能进一步上升。他还提到 AI 欺骗、入侵企业、隐瞒行为和社会工程攻击等相关报告，但这些事件对行业整体意味着什么仍需进一步验证。另一名前 Anthropic 研究员也警告，头部实验室正在竞逐可自我迭代的超级智能。Anthropic CEO 达里奥·阿莫代伊则呼吁放缓前沿 AI 开发，并加强独立评估和国际协作。
本文来源：IT之家，仅供学习参考，版权归原作者所有。