奥尔特曼:OpenAI上市前须作出更可靠的AI安全承诺,目前暂无时间表
萨姆·奥尔特曼表示,只有在能够就模型安全作出更完善、可信的承诺后,OpenAI才会考虑上市,目前没有明确时间表。他称,随着模型能力增强,安全与价值对齐应优先于能力扩展;上市带来的市场压力可能使相关决策更复杂。不过,他也表示,若上市拖延过久,对世界同样可能不利。
AI 新闻中心 过去30天分析了 4725 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
萨姆·奥尔特曼表示,只有在能够就模型安全作出更完善、可信的承诺后,OpenAI才会考虑上市,目前没有明确时间表。他称,随着模型能力增强,安全与价值对齐应优先于能力扩展;上市带来的市场压力可能使相关决策更复杂。不过,他也表示,若上市拖延过久,对世界同样可能不利。
数据中心基础设施公司Accelevation Holdings与其投资方Olympus Partners在美国首次公开募股中筹集了5.4亿美元。该公司以每股18美元的价格出售了3000万股,低于此前公布的每股20至24美元的发行价区间。
该研究提出了OLIVE(OnLine InterVEntion),一种用于语言模型的在线蒸馏方法。在每次迭代中,不断演化的学生策略生成一个新的前缀,教师模型以自回归方式续写该前缀,学生模型再根据教师生成的词元,通过交叉熵进行更新。OLIVE旨在解决离线监督微调中的序列协变量偏移、词元级在线策略蒸馏中的监督信号碎片化,以及分布匹配蒸馏需要访问教师词元概率等问题。在困难推理任务和智能体任务中,OLIV
民主党联邦众议员罗·康纳准备提出《人类控制AI法案》。法案拟规定,在联邦政府建立安全规则且主管机构批准相关活动前,AI模型不得进行递归式自我改进,也不得自主修改核心目标、遏制机制或关停控制。法案计划设立新的联邦机构,通过许可制度管理前沿模型的训练和部署,开展审计并制定安全标准,同时要求前沿AI实验室配备独立审计人员。提案还涉及与互联网物理隔离的测试环境、紧急关闭开关、防止模型脱离实验室后自行运行的
据路透社报道,麦当劳正扩大使用基于机器学习的定价系统,为美国及部分海外市场的单店和单品提供价格建议。该系统分析近 1.4 万家门店每天数百万笔交易,评估当地顾客的支付意愿,并参考竞争对手公开的线上菜单价格。路透社在加州弗雷斯诺发现,两家相隔约两英里的直营店,巨无霸售价分别为 5.69 美元和 6.89 美元,价差达到 21%。不过,尚无法确认这一差异是否直接由 AI 定价引擎造成。麦当劳称该系统只
询问《我的世界》相关问题时,America.gov会做出奇怪反应,但这似乎并非技术故障。从国家安全角度看,至少令人欣慰的是,系统还没有产生严重到写成长篇诗歌的幻觉。
一项研究表明,对于大型语言模型而言,配对比较的姓名不一定是等价输入。研究分析了近50万个名字和12种与LLM相关的分词器,发现部分姓名可直接由单个token表示,而另一些则会被拆分成多个子词。这种支持程度取决于模型,并且在与种族、族裔和性别相关的姓名群体之间分布不均。研究人员提出NameTrace,用于测量这些词汇差异是否会继续反映在与任务相关的内部表征中。在匹配的姓名之间,词汇支持程度能够预测奖
OpenAI 首席执行官萨姆·奥尔特曼在开发者大会上介绍了公司的三阶段商业策略:先提供领先的 AI 模型,再为开发者提供基于这些模型构建产品的工具,最终将 OpenAI 打造成连接企业与用户的平台。会上提及的工具包括云端版 Codex,以及用于开发 AI 智能体和快速决策的 API。OpenAI 还计划利用 ChatGPT 庞大的用户群,帮助企业连接客户并推广合作伙伴产品。奥尔特曼表示,企业客户可
美国总统特朗普表示,多家大型科技企业高管已同意一项关于 AI 安全的自愿性行业协议。企业将聘请独立审计机构,评估 AI 系统是否按设计运行,并努力防止工具以非预期方式访问技术系统。尽管不少社区因电力消耗及其他影响反对建设数据中心,特朗普仍重申支持快速扩建。他还表示正考虑成立一个由十人组成的委员会,负责监督 AI 工具安全。该协议属于自愿性质,尚未公布具体执行或问责机制。
Mindgard表示,该公司于7月发现,Kimi的K2.6和K3 Swarm模型能够绕过开发者设定的安全限制。这一发现引发了人们对这些模型安全防护机制稳健性的担忧。
美国上诉法院维持了信息服务公司汤森路透在起诉Ross Intelligence侵犯版权一案中的有利判决。法院驳回了Ross关于使用受版权保护的材料训练人工智能系统属于合理使用的抗辩。该裁决可能影响美国法院今后如何评估使用受版权保护作品训练人工智能系统的行为。
亚马逊在 unBoxed 大会上表示,将让人工智能在广告投放中发挥更核心的作用,并整合此前相互分离的广告工作流程。凭借在零售媒体领域的主导地位,亚马逊正寻求进一步争取整个广告行业的预算。
德勤英国业务去年向股权合伙人支付的平均薪酬约为113万英镑(150万美元),比上一年增长7%。该公司表示,市场对人工智能相关咨询服务的需求推动了利润增长。
一项研究发现,许多针对模型蒸馏攻击的防御措施,只有在模型被复制后立即评估时才有效。如果攻击者随后使用强化学习继续训练,就可能绕过原本看似有效的防护。研究人员表明,仅利用当前 API 可获取的数据,简单攻击就能复制闭源大语言模型的推理能力,效果接近提取完整隐藏推理轨迹的复杂攻击。任何泄露足够信息、使攻击者能够重建近似推理轨迹的防御措施,都可能难以奏效。论文还讨论了可能更有效的批次级蒸馏防御方案。
特斯拉签署了总额 300 亿美元的信贷协议,其中包括一笔可延后支取的 200 亿美元定期贷款。公司计划将创纪录支出的大部分用于 AI 算力基础设施、太阳能电池产能建设,以及与 SpaceX 合作的半导体制造项目,同时支持其他业务扩张。特斯拉表示,截至 9 月 29 日尚未动用新增信贷额度,目前也没有计划在 2026 年使用这些贷款。今年早些时候,公司预计 2026 年资本支出将超过 250 亿美元