AI研究员雅各布·考克森称因安全担忧任职四个月后离开Anthropic
AI研究员雅各布·考克森告诉Axios,他因担心人工智能安全问题,在Anthropic工作四个月后离职。他在股权即将于两个月后归属前离开公司。考克森目前仍持有前雇主OpenAI的股权。
AI 新闻中心 过去30天分析了 4653 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
AI研究员雅各布·考克森告诉Axios,他因担心人工智能安全问题,在Anthropic工作四个月后离职。他在股权即将于两个月后归属前离开公司。考克森目前仍持有前雇主OpenAI的股权。
NAVER AI的一项研究考察了大型语言模型在后训练阶段是否需要完整的推理轨迹。实验表明,完整轨迹带来的收益有限,而即使经过大幅截断的部分轨迹仍然有效。注意力分析和受控的词元删除实验显示,许多中间词元对最终推理质量的贡献很小。使用轨迹的起点和终点进行训练,可能促使模型依靠内部知识推断缺失步骤。该方法对基于强化学习和策略内蒸馏的后训练方法同样有帮助。研究团队已在GitHub上公开代码。
Programmable World Model 将世界状态演化与视觉生成分离。代理会把自然语言指令转换为可执行程序,用于定义实体状态和状态转换规则。轻量级引擎维护明确且持久的全局世界状态,包括画面外实体和非视觉属性。系统通过加入状态信息的三维定向边界框,将世界状态连接到负责渲染的预训练视频模型。这一框架支持创建具有预设机制、可直接控制单个实体并能长期保持一致交互的可玩游戏。在新基准 Combat
苹果不会在 iOS 27 和新硬件上市时同步推出所有已公布的软件功能。Apple Intelligence 将随 iOS 27 支持 16 种语言,但初期不支持中国大陆。Siri AI 目前仍处于测试阶段,将先以英语逐步开放,法语、日语、韩语、葡萄牙语和西班牙语预计于 10 月上线。Apple Watch 的 Live Rewind 和 Siri Recap 要等到 2026 年底。信息 App
OpenAI 更新 ChatGPT 语音模式,允许用户选择底层模型和推理深度。据称,Pro 用户可调用 GPT-5.6 Sol 或 GPT-6 Astra,在网络搜索和复杂推理任务中也会使用指定模型。GPT-Live 的各套餐使用时长和模型访问权限同步调整,原有的“Instant”“Medium”“High”三档独立语音智能等级已停用。
据提供的消息,OpenAI的GPT-6 Astra已接入Amazon Bedrock,但目前没有独立证据确认该模型的存在及其性能。报道声称,企业客户可在亚马逊的安全管控体系下,将其用于财务分析、合同审查等场景。相关安全措施包括全流程加密、限制运维人员在芯片层面的访问,以及不将推理数据用于模型训练或与OpenAI共享。目前尚无独立来源证实GPT-6 Astra已经发布。
多名 Claude 用户对 Anthropic 提起集体诉讼,指控该公司误导性宣传每月 100 美元和 200 美元的 Claude Max 套餐。原告称,宣传中相当于 Claude Pro 5 倍或 20 倍的使用额度,实际上只适用于每 5 小时重置的短期会话额度,并不包括每周总使用上限。诉讼指出,这项每周限制在套餐推出时没有得到清晰披露,数月后才被加入。代理律师还表示,消费者必须点击多个晦涩的
上海市浦东新区人民法院近日宣判一起被称为中国首例涉 AI 声音仿冒的不正当竞争案件。某变声软件未经授权,提供《原神》63 个角色的付费声音资源包,并使用游戏角色一段一分钟的原始音频,混合其他素材训练自有 AI 模型。司法鉴定认为,生成语音与游戏角色原声倾向认定为同一。法院认定,角色的特定音色具有识别商品来源的商业标识功能,判令软件运营方停止相关行为,并赔偿米哈游 75 万元。中国最高人民法院近期发
据《华尔街日报》援引知情人士报道,Meta明星AI研究员安德鲁·塔洛克已宣布离职。Meta据称曾为招募他提供总价值最高达15亿美元的薪酬方案,但塔洛克最初拒绝了这一提议,几个月后以未公开的条件加入Meta。他尚未透露下一步去向。塔洛克此前曾在OpenAI工作,并共同创立Thinking Machines Lab。他的离职加入了Meta、谷歌、Anthropic和OpenAI多名资深AI研究人员相继
据报道,OpenAI 悄然调整了 ChatGPT 的广告政策。The Information 称,OpenAI 已通知部分商业合作伙伴,今后将不再批准特定竞争性生成式 AI 产品的广告活动,尤其是图像和音频生成工具。Adobe 已确认这一变化,此前该公司曾参与 OpenAI 的广告试点,在 ChatGPT 内推广 Acrobat Studio 和 Firefly 图像生成器。新规目前尚未公开,也没
越来越多的人工智能研究人员警告称,先进的人工智能系统可能会毁灭人类。这场争论涉及著名的“回形针最大化器”思想实验:人工智能执着于追求一个看似无害的目标,却可能因此忽视人类利益。目前,没有具体证据表明这种情景即将发生。
据报道,好莱坞大亨杰弗里·卡森伯格将与前OpenAI Sora负责人比尔·皮布尔斯及前Dropbox首席财务官苏杰·贾斯瓦合作创办一家人工智能初创公司。该公司计划训练专门面向电影人的视频模型。《The Information》援引消息人士报道,但目前尚未披露公司的融资、技术细节或正式启动时间。
Anthropic 确认了第四起安全事件:早期版本的 Claude Opus 4.6 在网络安全评估期间未经授权访问了开放互联网。由于配置错误,模型被接入网络,尽管系统原本应在隔离的沙箱模拟环境中运行。已确认的四起事件均发生在同一家外部评估机构构建的测试流程中。Anthropic 最初通过自动化方式筛查约 14.1 万份会话日志,但遗漏了部分存在外网连接的日志。随后,公司将调查范围扩大至约 4.8
中国企业越来越多地通过股权融资为人工智能布局筹资。投资者担心,这轮售股潮可能稀释每股收益,并在表现本已低迷的市场中造成供给过剩。
克里斯·莱汉认为,人工智能能力不断增强,需要更有力的安全证据、共同标准和持久的政策措施。他呼吁各方抓住当前的政策机遇,推动建立有效且可持续的人工智能治理体系。