为什么如今每次AI发布都会加剧反弹
AI工具的能力不断提升，但公众的反弹也在加剧。过去几周，多款AI模型和工具相继发布，其能力远超六个月前的产品。与此同时，外界越来越担心AI对环境的影响、对创造力和批判性思维的削弱，以及先进系统可能以破坏性的方式自行运行。对媒体而言，剩下的问题是找出一个具体的企业或人物，让公众能够追究其责任。
AI 新闻中心
AI 新闻中心 过去7天分析了 262 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
安全研究人员称利用 Claude 入侵 OpenAI
据《华尔街日报》报道，Hacktron 的三名独立安全研究人员称，他们使用 Anthropic 的 Claude Opus 4.8 和 5，在不到 72 小时内获得了 OpenAI 员工账户的访问权限。据称，他们还进入了 OpenAI 名为“Monorepo”的 GitHub 代码库。报道称，该代码库包含 OpenAI 重要的算法机密。现有信息仅来自研究人员的说法，尚未得到独立证实。
如果人工智能行业遵循自身研究结论，或许早已暂停开发
Anthropic首席执行官表示，人工智能的安全取决于能否理解AI系统如何“思考”。然而，迄今为止的研究证据令人担忧。
观点｜暂停人工智能开发的代价
人工智能快速发展伴随着风险，但放慢或暂停开发同样可能带来高昂成本和不利影响。
Anthropic的AI模型Claude正协助开发自己的下一代版本
Anthropic表示，Claude目前主导了公司26%的模型研究与开发工作，这一比例从2月的零增长到8月的约四分之一。公司约90%的研发工作都在Claude的协作下完成，但仍由人类进行密切监督。Claude尚未实现完全自主运行。Anthropic称，公开这些指标有助于评估AI距离“递归式自我改进”还有多远，即AI系统参与构建自身后继模型的能力。公司呼吁其他开发者采用公开方法，定期发布可比较的数据
特朗普的反偏见 AI 行政令只是带来了更多偏见
特朗普政府声称希望人工智能模型不受意识形态偏见的影响，却同时向开发者施压，要求模型反映总统的世界观。
“AI 教父”辛顿支持要求独立第三方评估的公开信
由多家 AI 监督组织组成的论坛呼吁 Anthropic、OpenAI 等 AI 实验室，确保外部评估人员能够独立、透明地工作，并免受企业干预。由杰弗里·辛顿、斯图尔特·罗素等专家联署的公开信要求，第三方评估人员应获得与内部评估人员同等的系统、数据、工具和场所访问权限，能够直接与公司董事会沟通，并在不受企业过滤的情况下公布评估结果。论坛还要求保护评估人员免受因工作遭到的报复，并引入具有不同专业背景
人工智能引发的就业担忧加剧，科技业领袖呼吁立即开展技能再培训
随着人工智能可能导致失业的担忧加剧，科技行业领导者表示，技能再培训计划已经刻不容缓。此外，研究人员利用Anthropic的Claude入侵或测试了OpenAI的系统。
甲骨文斥数十亿美元帮其他企业运行 AI，但自身推广并不顺利
过去两年，甲骨文投入数十亿美元帮助其他企业运行 AI，但自家公司全面引入 AI 的进度明显更慢。部署 ChatGPT Enterprise 和 Codex 后，内部使用率在三个月内达到 80%，公司同时制定了使用标准、安全控制措施和内部政策。AI 大幅提升了软件开发速度，却将瓶颈转移到测试、验证、部署和发布管理等环节。甲骨文采用 Anthropic 的代码安全扫描模型后，两周内发现的潜在问题超过此
AI 水印可能让大语言模型遵守安全防护措施变得不可预测，给欧盟人工智能法案带来问题
研究人员发现，AI 水印可能改变大语言模型的行为，使模型不再稳定地遵守安全防护措施。这可能引发对系统安全性以及能否符合欧盟人工智能法案要求的担忧。
智谱 ZCode 被质疑“偷传代码”：官方称问题已修复，将开源代码库
智谱旗下编程产品 ZCode 就代码库数据上传问题向受影响用户致歉。问题源于代码库索引功能，该功能支持历史版本检查点恢复、版本回退以及生成 Repo Wiki。生成 Wiki 页面时，可能触发将代码库数据上传至云端处理。智谱表示，相关数据在 Wiki 生成后会立即销毁，不会保存。由于该功能在上线初期默认开启，部分用户受到影响。官方称已完成自查并修复问题，近期将开源 ZCode 代码库，邀请第三方评
Hugging Face 的 AI 黑客活动表明人类仍能控制这项技术
围绕 AI 生存性威胁的讨论，可能掩盖更紧迫且可以纠正的问题。Hugging Face 的黑客活动表明，通过人工监督和有针对性的干预，人类仍有可能有效控制 AI 系统。
加州一县拟推新规：用机器人替代人力的企业须提供同薪岗位或支付遣散费
美国加州圣马刁县监事会已通过一项针对自主式 AI 控制机器人的许可制度草案。企业若要在人类可进入的场所使用此类机器人，须事先申请许可，并提交机器人安全状况、制造商信息以及经济和劳动力影响评估。若机器人导致员工失业，企业必须提供薪酬不低于原岗位的其他工作，提前 60 天通知并支付遣散费，或向新设的“县自动化影响费”缴费，资助失业人员接受职业再培训。该条例仍需完成最终批准程序，正式通过 30 天后生效
在人工智能乐观派与末日论者的争论中，没有赢家
在人人都想从人工智能淘金热中获利的情况下，我们究竟能相信谁？人工智能可能会终结我们熟悉的世界，但那些末日警告和宏大承诺也可能只是一场营销宣传。
白帽黑客据称利用 Anthropic 的 Claude 在不到 72 小时内攻破 OpenAI
报道称，安全研究人员利用 AI 代理调查了一项漏洞。他们起初难以让 Opus 4.8 稳定执行攻击，但据称 Opus 5 发布后情况发生了变化。这一事件被描述为 AI 能力快速发展的案例研究。不过，相关说法以及模型信息仍需通过独立来源进行核实。