Mistral等欧洲人工智能初创公司指责美国竞争对手利用安全担忧巩固主导地位
欧洲领先的人工智能公司Mistral及其他初创企业指责美国竞争对手利用安全担忧来巩固市场主导地位。这些公司拒绝接受Anthropic关于放缓或控制前沿人工智能系统开发速度的呼吁。
AI 新闻中心
AI 新闻中心 过去一年分析了 1507 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
评论｜AI：机器中的代笔人
这篇评论探讨了人工智能作为政治文章代笔工具的作用。《纽约时报》评论版编辑表示，如果要求每位政治人物都亲自撰写文章，结果可能是文章质量糟糕，或者根本没有文章可发表。
Automattic的33小时政变：人工智能实验室能自我监管吗？
Anthropic一名研究人员警告人工智能可能带来灾难性风险、震动行业一周后，该公司首席执行官达里奥·阿莫代提出了控制前沿人工智能发展速度的计划。该方案依靠独立的安全评估机构，以及民主国家人工智能实验室之间的协调合作。方案已获得部分行业支持，但也遭到英伟达首席执行官黄仁勋的尖锐反对。
达里奥·阿莫代及其他人工智能领袖希望放缓前沿AI发展，但该如何实现？
Anthropic一名研究人员警告人工智能可能带来灾难性后果，引发行业震动一周后，该公司首席执行官达里奥·阿莫代提出了放缓并协调前沿AI系统开发的计划。该提议依赖独立的安全评估机构，以及民主国家人工智能实验室之间的合作。部分业内人士已经表示支持，但英伟达首席执行官黄仁勋也提出了尖锐批评。
好莱坞如何看待人工智能威胁人类存亡的警告
科技行业警告人工智能可能毁灭人类之际，娱乐行业劳工组织呼吁公众关注已经发生的影响。迪士尼、Netflix、亚马逊、狮门影业等多家制片厂已开始使用人工智能，另有电影初创公司正推动生成式人工智能进入主流影视制作。
为什么如今每次AI发布都会加剧反弹
AI工具的能力不断提升，但公众的反弹也在加剧。过去几周，多款AI模型和工具相继发布，其能力远超六个月前的产品。与此同时，外界越来越担心AI对环境的影响、对创造力和批判性思维的削弱，以及先进系统可能以破坏性的方式自行运行。对媒体而言，剩下的问题是找出一个具体的企业或人物，让公众能够追究其责任。
安全研究人员称利用 Claude 入侵 OpenAI
据《华尔街日报》报道，Hacktron 的三名独立安全研究人员称，他们使用 Anthropic 的 Claude Opus 4.8 和 5，在不到 72 小时内获得了 OpenAI 员工账户的访问权限。据称，他们还进入了 OpenAI 名为“Monorepo”的 GitHub 代码库。报道称，该代码库包含 OpenAI 重要的算法机密。现有信息仅来自研究人员的说法，尚未得到独立证实。
如果人工智能行业遵循自身研究结论，或许早已暂停开发
Anthropic首席执行官表示，人工智能的安全取决于能否理解AI系统如何“思考”。然而，迄今为止的研究证据令人担忧。
观点｜暂停人工智能开发的代价
人工智能快速发展伴随着风险，但放慢或暂停开发同样可能带来高昂成本和不利影响。
Anthropic的AI模型Claude正协助开发自己的下一代版本
Anthropic表示，Claude目前主导了公司26%的模型研究与开发工作，这一比例从2月的零增长到8月的约四分之一。公司约90%的研发工作都在Claude的协作下完成，但仍由人类进行密切监督。Claude尚未实现完全自主运行。Anthropic称，公开这些指标有助于评估AI距离“递归式自我改进”还有多远，即AI系统参与构建自身后继模型的能力。公司呼吁其他开发者采用公开方法，定期发布可比较的数据
特朗普的反偏见 AI 行政令只是带来了更多偏见
特朗普政府声称希望人工智能模型不受意识形态偏见的影响，却同时向开发者施压，要求模型反映总统的世界观。
“AI 教父”辛顿支持要求独立第三方评估的公开信
由多家 AI 监督组织组成的论坛呼吁 Anthropic、OpenAI 等 AI 实验室，确保外部评估人员能够独立、透明地工作，并免受企业干预。由杰弗里·辛顿、斯图尔特·罗素等专家联署的公开信要求，第三方评估人员应获得与内部评估人员同等的系统、数据、工具和场所访问权限，能够直接与公司董事会沟通，并在不受企业过滤的情况下公布评估结果。论坛还要求保护评估人员免受因工作遭到的报复，并引入具有不同专业背景
人工智能引发的就业担忧加剧，科技业领袖呼吁立即开展技能再培训
随着人工智能可能导致失业的担忧加剧，科技行业领导者表示，技能再培训计划已经刻不容缓。此外，研究人员利用Anthropic的Claude入侵或测试了OpenAI的系统。
甲骨文斥数十亿美元帮其他企业运行 AI，但自身推广并不顺利
过去两年，甲骨文投入数十亿美元帮助其他企业运行 AI，但自家公司全面引入 AI 的进度明显更慢。部署 ChatGPT Enterprise 和 Codex 后，内部使用率在三个月内达到 80%，公司同时制定了使用标准、安全控制措施和内部政策。AI 大幅提升了软件开发速度，却将瓶颈转移到测试、验证、部署和发布管理等环节。甲骨文采用 Anthropic 的代码安全扫描模型后，两周内发现的潜在问题超过此
AI 水印可能让大语言模型遵守安全防护措施变得不可预测，给欧盟人工智能法案带来问题
研究人员发现，AI 水印可能改变大语言模型的行为，使模型不再稳定地遵守安全防护措施。这可能引发对系统安全性以及能否符合欧盟人工智能法案要求的担忧。