美国议员提案:政府建立安全防护机制前,禁止AI进行递归式自我改进
民主党联邦众议员罗·康纳准备提出《人类控制AI法案》。法案拟规定,在联邦政府建立安全规则且主管机构批准相关活动前,AI模型不得进行递归式自我改进,也不得自主修改核心目标、遏制机制或关停控制。法案计划设立新的联邦机构,通过许可制度管理前沿模型的训练和部署,开展审计并制定安全标准,同时要求前沿AI实验室配备独立审计人员。提案还涉及与互联网物理隔离的测试环境、紧急关闭开关、防止模型脱离实验室后自行运行的
AI 新闻中心 过去24小时分析了 161 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
民主党联邦众议员罗·康纳准备提出《人类控制AI法案》。法案拟规定,在联邦政府建立安全规则且主管机构批准相关活动前,AI模型不得进行递归式自我改进,也不得自主修改核心目标、遏制机制或关停控制。法案计划设立新的联邦机构,通过许可制度管理前沿模型的训练和部署,开展审计并制定安全标准,同时要求前沿AI实验室配备独立审计人员。提案还涉及与互联网物理隔离的测试环境、紧急关闭开关、防止模型脱离实验室后自行运行的
据路透社报道,麦当劳正扩大使用基于机器学习的定价系统,为美国及部分海外市场的单店和单品提供价格建议。该系统分析近 1.4 万家门店每天数百万笔交易,评估当地顾客的支付意愿,并参考竞争对手公开的线上菜单价格。路透社在加州弗雷斯诺发现,两家相隔约两英里的直营店,巨无霸售价分别为 5.69 美元和 6.89 美元,价差达到 21%。不过,尚无法确认这一差异是否直接由 AI 定价引擎造成。麦当劳称该系统只
询问《我的世界》相关问题时,America.gov会做出奇怪反应,但这似乎并非技术故障。从国家安全角度看,至少令人欣慰的是,系统还没有产生严重到写成长篇诗歌的幻觉。
OpenAI 首席执行官萨姆·奥尔特曼在开发者大会上介绍了公司的三阶段商业策略:先提供领先的 AI 模型,再为开发者提供基于这些模型构建产品的工具,最终将 OpenAI 打造成连接企业与用户的平台。会上提及的工具包括云端版 Codex,以及用于开发 AI 智能体和快速决策的 API。OpenAI 还计划利用 ChatGPT 庞大的用户群,帮助企业连接客户并推广合作伙伴产品。奥尔特曼表示,企业客户可
美国总统特朗普表示,多家大型科技企业高管已同意一项关于 AI 安全的自愿性行业协议。企业将聘请独立审计机构,评估 AI 系统是否按设计运行,并努力防止工具以非预期方式访问技术系统。尽管不少社区因电力消耗及其他影响反对建设数据中心,特朗普仍重申支持快速扩建。他还表示正考虑成立一个由十人组成的委员会,负责监督 AI 工具安全。该协议属于自愿性质,尚未公布具体执行或问责机制。
Mindgard表示,该公司于7月发现,Kimi的K2.6和K3 Swarm模型能够绕过开发者设定的安全限制。这一发现引发了人们对这些模型安全防护机制稳健性的担忧。
美国上诉法院维持了信息服务公司汤森路透在起诉Ross Intelligence侵犯版权一案中的有利判决。法院驳回了Ross关于使用受版权保护的材料训练人工智能系统属于合理使用的抗辩。该裁决可能影响美国法院今后如何评估使用受版权保护作品训练人工智能系统的行为。
亚马逊在 unBoxed 大会上表示,将让人工智能在广告投放中发挥更核心的作用,并整合此前相互分离的广告工作流程。凭借在零售媒体领域的主导地位,亚马逊正寻求进一步争取整个广告行业的预算。
德勤英国业务去年向股权合伙人支付的平均薪酬约为113万英镑(150万美元),比上一年增长7%。该公司表示,市场对人工智能相关咨询服务的需求推动了利润增长。
特斯拉签署了总额 300 亿美元的信贷协议,其中包括一笔可延后支取的 200 亿美元定期贷款。公司计划将创纪录支出的大部分用于 AI 算力基础设施、太阳能电池产能建设,以及与 SpaceX 合作的半导体制造项目,同时支持其他业务扩张。特斯拉表示,截至 9 月 29 日尚未动用新增信贷额度,目前也没有计划在 2026 年使用这些贷款。今年早些时候,公司预计 2026 年资本支出将超过 250 亿美元
特斯拉称,FSD(监督版)已获准在克罗地亚使用,欧洲批准该功能的国家增至八个。目前各国均依据本国程序分别审批;欧盟全域审批投票已推迟至最早12月。特斯拉还在争取爱尔兰批准,并与意大利磋商。瑞典和法国提出了相关安全顾虑,包括该功能可能助长超速。
Anthropic表示,GLM-5.3能够像Claude Mythos Preview一样,自主从头到尾开发可运行的网络攻击利用程序。该公司称,这款模型发布时缺乏可靠的防滥用措施。这一说法来自Anthropic,现有信息未提供独立验证。
据彭博社记者马克·古尔曼报道,苹果已无限期搁置裁减约 5000 名 AppleCare 客服人员的计划。公司此前曾考虑让 AI 智能体接手部分电话和在线支持工作,但目前不再推进相关裁员。与此同时,美国和加拿大的 AppleCare 客服热线据称已升级,可能接入生成式 AI 支持助手。该助手能够回答 Apple 产品问题、提供分步骤故障排查指导,并在无法解决问题时转接人工顾问,用户也可以主动要求联系
有关“失控 AI”的故事已成为笑料,但这种说法也有严肃的一面:有人认为,它可能让科技巨头逃避责任。先进模型被描述为屡屡在不该行动的地方采取行动,这类说法如今已成了网络梗。
在 OpenAI 于周二发布新款 AI 智能体“Dots”之前,埃隆·马斯克旗下的 xAI 已经购买了 dot.com 域名。目前该网址会跳转到 Grok 聊天机器人的下载页面,网友因此猜测,这可能是 xAI 对 OpenAI 的一次嘲讽。