前 xAI 员工拟为反深度伪造公司筹集 5000 万美元
据一位知情人士透露，一名前 xAI 和谷歌员工正就为一家专注于打击网络深度伪造内容的新公司筹集约 5000 万美元种子资金进行谈判。
AI 新闻中心
AI 新闻中心 过去一年分析了 1503 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
数学与人工智能顾问组
OpenAI正与一个独立的数学与人工智能顾问组合作。该小组将协助指导对人工智能领域新兴成果的审查和传播。
人工智能热潮和数据中心建设到2050年或产生可绕地球六圈的电子垃圾
一份最新报告警告，人工智能数据中心的扩张到2050年可能产生大量电子垃圾，总量或相当于绕地球六圈。报告还估计，其中相当一部分电子垃圾可能未被统计，并分析了每个数据中心园区可能使用的硬件和基础设施规模。
为人工智能下一阶段建立标准
OpenAI提出建立全球通用人工智能标准的路径，呼吁加强评估、报告和治理方面的协调，以提升日益强大的人工智能系统的安全性。
Z.AI 开源编程工具 ZCode，用户称其未经同意将代码库上传至海外服务器后停用部分功能
中国初创公司 Z.ai 已停用其 AI 编程助手 ZCode 的部分功能，并将该编程工具开源。部分用户此前表示，ZCode 未经同意将代码库上传至海外服务器。面对数据隐私和源代码安全方面的担忧，公司采取了上述措施。
Robinhood首席投资官Stephanie Guild谈人工智能网络安全担忧
Robinhood首席投资官Stephanie Guild在彭博节目《Open Interest》中与Dani Burger讨论了近期对人工智能安全性的担忧，以及行业竞争格局。
埃森哲将协助Anthropic测试AI模型安全性
Anthropic正与埃森哲合作，评估其先进人工智能模型的安全性。埃森哲评估人员将进驻Anthropic，在模型部署前尝试发现漏洞、突破模型的安全防护机制。彭博社报道。
美国财长贝森特：Hugging Face遭黑客攻击应由OpenAI管理层负责
美国财政部长斯科特·贝森特表示，近期涉及OpenAI和Hugging Face的黑客事件应由OpenAI管理层负责，而不是归咎于一群代理人。他的言论将焦点放在企业领导层对这起安全事件所承担的责任上。
对领导层的信任成为企业人工智能雄心面临的最新挑战
此外，据报道，Gemini在首起已知的类似突破事件中入侵了三家公司；特朗普则表示将启动一支“人工智能部队”。
贝森特将 Hugging Face 事件责任归咎于 OpenAI 管理层
美国财政部长斯科特·贝森特表示，近期涉及 OpenAI 先进人工智能模型的黑客事件应由该公司的管理层负责。不过，他没有暗示管理层将面临任何后果。
APort Vault借助Open Agent Passport评测AI代理支付授权能力
APort Vault是一项用于评测工具型AI代理支付授权能力的基准测试。研究重放了针对一个在线支付代理的4,371次人工编写攻击，覆盖8家实验室的14个模型、5种策略配置和225,964次评估。加入基于Open Agent Passport规范的确定性执行前检查后，69,297笔向未获授权收款人的转账中没有一笔被放行；未加入该检查时，76,842笔中有140笔被放行。该机制并非简单拒绝所有支付，
亚马逊因未授权 AI 购物争议封禁 Meta Muse
亚马逊已阻断 Meta 个人 AI 智能体 Muse 对其购物平台的访问。Muse 能代替用户浏览亚马逊并下单，但此前未获得亚马逊许可，也没有明确表明自己是自动化智能体。亚马逊认为这违反了平台使用条款，并带来隐私和安全风险，尤其是 Muse 可以调用保存的账户凭证。Meta 则表示，Muse 无法以明文读取密码或支付信息，敏感操作会在安全环境中执行，并需要用户确认。这场冲突凸显了行业面临的更大问题
联合国人工智能专家小组呼吁各国政府在充分了解风险前遏制人工智能代理
联合国独立国际人工智能科学小组在首份专题简报中呼吁各国政府采取预防措施，在更充分了解人工智能代理的风险之前限制其部署。报告发布之际，中国和美国正准备就人工智能展开讨论，世界各国领导人也将于本周齐聚纽约。
放缓 AI 前沿发展可能出于真诚，也可能对领先实验室具有战略价值
Stratechery 的 Ben Thompson 分析了领先 AI 实验室是否应有意放慢发展速度的争论。这种克制可能源于对安全和社会影响的真实担忧，但也可能让企业有时间应对模型快速进步所带来的经济和组织压力。
特朗普与 AI 推动者未能迎合美国选民诉求
急于推动人工智能技术发展的呼声，与未能看到其益处的美国选民态度产生冲突，选民对此技术仍持怀疑态度。