OpenAI智能体安全负责人谈Hugging Face事件及OpenAI的应对
OpenAI智能体安全负责人Joe(@joedaroo)分享了他对Hugging Face事件及OpenAI应对措施的看法。他还谈到沙箱隔离改进、对齐,以及他所说的“合理的警惕”。他表示,希望这些基于自己在OpenAI工作经历的思考,能为从事安全与防护工作的人提供帮助。
AI 新闻中心 过去30天分析了 4721 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
OpenAI智能体安全负责人Joe(@joedaroo)分享了他对Hugging Face事件及OpenAI应对措施的看法。他还谈到沙箱隔离改进、对齐,以及他所说的“合理的警惕”。他表示,希望这些基于自己在OpenAI工作经历的思考,能为从事安全与防护工作的人提供帮助。
软银创始人孙正义表示,他将“全力投入”人工智能。该集团上周发行了创纪录的111亿美元垃圾债券,这显示出其高管为支持这一AI战略筹集资金所采取的激进行动。
该研究分析了大型语言模型在稀疏奖励环境中进行长程推理时的两类问题:探索偏差,即模型倾向于选择局部合理但结构不稳定的分支;以及累积偏差,即微小偏差在多步推理中不断放大。研究人员提出 Symbolic Closure Analysis 作为理论分析框架,并开发了 SAGE,将代数稀疏化与推理状态的双曲空间嵌入相结合。这些结构性引导旨在减少无效分支,并沿推理深度提供更密集的信号。在 12 个基准测试和
研究人员提出一种训练后方法,用于降低小型语言模型输出头的量化误差。量化前,该方法从每个输出行中减去词表行均值的一个标量倍数,以选择功能等价的输出头,并通过验证集确定系数。在七个输出头上测试时,Phi-4-mini 在 W4 和激活加权 MSE 设置下的 KL 散度从 0.936 降至 0.256。该方法可与 GPTQ、按通道缩放和仿射量化互补。采用 W4 量化 Phi 输出头后,批大小为 1 的生
多名开发者在月之暗面 API 平台的模型注册表中发现“kimi-k3-1”标识,并确认可通过接口调用。随后,Kimi 官方开放平台也预告了 K3.1(或称 K3 11111),称其支持最高 100 万 Token 的上下文窗口。该模型可能提供不同档位的推理强度,并支持智能体、多智能体协作、搜索和批处理模式。目前其 API 标价与现有 K3 相同,但也可能只是占位价格。官方尚未确认发布日期。
据报道,Meta Muse AI智能体泄露了一名人士的住址,导致其在Facebook Marketplace上的一笔交易告吹。
这家初创公司利用人工智能自动处理保险代理机构和保险经纪人的繁琐文书工作。
专注于实体人工智能芯片的初创公司 SiMa.ai 宣布,在由 Fidelity 和 Amplify 领投的 C 轮融资中筹得 1.5 亿美元,公司估值达到 14.5 亿美元。SiMa.ai 正在为边缘计算和实体 AI 应用开发定制芯片,并计划与基于英伟达 CUDA 生态系统的硬件展开竞争。
Akamai联合创始人兼首席执行官Tom Leighton在彭博社《Open Interest》节目中谈及该公司与Anthropic签订的七年期、总额120亿美元的人工智能计算能力供应协议,以及Akamai更广泛的人工智能战略。
CodeGraph 是一个知识图谱,利用代码专用大型语言模型为源代码中的工程概念添加注释,并将其关联到 Wikidata。其流程结合确定性 SPARQL 查询、Deep Research Agent 和层级关系扩展;质量保障方案用于估算注释精度。研究团队将该流程应用于包含 1.67 亿个文件的 Stack-Edu 语料,构建出约 1.58 亿个节点和近 10 亿条带类型的边。该图谱覆盖 14 种编
Meta 首席执行官马克·扎克伯格宣布启动 Meta Enterprise Platform,计划向企业和开发者提供 Meta 的 AI 模型、智能体、基础设施及合作资源。扎克伯格将该平台视为 Meta 未来业务的重要支柱。MongoDB 前首席执行官兼总裁 Chirantan“CJ”Desai 将担任 Meta 首席企业平台官,负责领导该平台并直接向扎克伯格汇报。MongoDB 表示,前首席执行
这家科技巨头正通过向企业销售更多人工智能工具和服务,寻求将数十亿美元的人工智能投资转化为收入。
文章称,劳动年龄人口中有18.8%使用AI,并提到英伟达将针对所谓的“失控智能体”采取行动,但未提供更多细节。
飞利浦 Sonicare 新一代 DiamondClean 9900 Prestige 智能牙刷在今年 7 月公布后,现已在欧洲和美国上市。该产品通过 AI 追踪刷牙动作,帮助用户更有效地刷牙。更广泛的全球上市预计将在 2027 年进行。上一代产品仍在销售,目前折后价为 429.99 美元起。
Artificial Analysis 联合 Collinear、IBM、Nvidia 和 Vercel 成立 Cyber Index Alliance。该计划旨在建立统一标准,评估 AI 代理在企业网络防御任务中的表现。