OpenAI新董事警告:失去对AI的控制可能造成灾难性后果
曾负责OpenAI对齐研究的保罗·克里斯蒂亚诺加入OpenAI基金会董事会后警告,人类可能在短期内以灾难性且不可逆的方式失去对先进AI系统的控制。他表示,如果没有更强的对齐机制就开发超级智能,可能导致大多数人死亡。克里斯蒂亚诺呼吁加强国际协调,制定共同安全标准,透明分享风险及缓解措施,并在必要时放慢开发速度。他强调,加入董事会并不代表支持或批评OpenAI目前的安全做法。他还指出,强化学习可能促使
AI 新闻中心 过去一年分析了 2701 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
曾负责OpenAI对齐研究的保罗·克里斯蒂亚诺加入OpenAI基金会董事会后警告,人类可能在短期内以灾难性且不可逆的方式失去对先进AI系统的控制。他表示,如果没有更强的对齐机制就开发超级智能,可能导致大多数人死亡。克里斯蒂亚诺呼吁加强国际协调,制定共同安全标准,透明分享风险及缓解措施,并在必要时放慢开发速度。他强调,加入董事会并不代表支持或批评OpenAI目前的安全做法。他还指出,强化学习可能促使
AI研究员雅各布·考克森告诉Axios,他因担心人工智能安全问题,在Anthropic工作四个月后离职。他在股权即将于两个月后归属前离开公司。考克森目前仍持有前雇主OpenAI的股权。
苹果不会在 iOS 27 和新硬件上市时同步推出所有已公布的软件功能。Apple Intelligence 将随 iOS 27 支持 16 种语言,但初期不支持中国大陆。Siri AI 目前仍处于测试阶段,将先以英语逐步开放,法语、日语、韩语、葡萄牙语和西班牙语预计于 10 月上线。Apple Watch 的 Live Rewind 和 Siri Recap 要等到 2026 年底。信息 App
OpenAI 更新 ChatGPT 语音模式,允许用户选择底层模型和推理深度。据称,Pro 用户可调用 GPT-5.6 Sol 或 GPT-6 Astra,在网络搜索和复杂推理任务中也会使用指定模型。GPT-Live 的各套餐使用时长和模型访问权限同步调整,原有的“Instant”“Medium”“High”三档独立语音智能等级已停用。
据提供的消息,OpenAI的GPT-6 Astra已接入Amazon Bedrock,但目前没有独立证据确认该模型的存在及其性能。报道声称,企业客户可在亚马逊的安全管控体系下,将其用于财务分析、合同审查等场景。相关安全措施包括全流程加密、限制运维人员在芯片层面的访问,以及不将推理数据用于模型训练或与OpenAI共享。目前尚无独立来源证实GPT-6 Astra已经发布。
据《华尔街日报》援引知情人士报道,Meta明星AI研究员安德鲁·塔洛克已宣布离职。Meta据称曾为招募他提供总价值最高达15亿美元的薪酬方案,但塔洛克最初拒绝了这一提议,几个月后以未公开的条件加入Meta。他尚未透露下一步去向。塔洛克此前曾在OpenAI工作,并共同创立Thinking Machines Lab。他的离职加入了Meta、谷歌、Anthropic和OpenAI多名资深AI研究人员相继
据报道,OpenAI 悄然调整了 ChatGPT 的广告政策。The Information 称,OpenAI 已通知部分商业合作伙伴,今后将不再批准特定竞争性生成式 AI 产品的广告活动,尤其是图像和音频生成工具。Adobe 已确认这一变化,此前该公司曾参与 OpenAI 的广告试点,在 ChatGPT 内推广 Acrobat Studio 和 Firefly 图像生成器。新规目前尚未公开,也没
据彭博社报道,苹果计划在 Apple Watch Series 12 和 Apple Watch Ultra 4 上推出 Siri Recap 与 Live Recap 等音频智能功能。Siri Recap 可通过环境聆听整理日常对话,帮助用户回顾遗漏的信息或重要事项。Live Recap 则会显示最近 15 秒对话的实时文字转录,方便用户快速确认刚才的内容。此外,Apple Watch 还可能识
在年度硬件发布会上,苹果宣布推出三款新 iPhone,其中包括一款折叠机型,同时发布多款新 Apple Watch 和新 AirPods。市场越来越根据苹果设备支持和实现个性化 AI 体验的能力来评价这些产品。
Andrew Tulloch将离开Meta。就在不到一年前,该公司曾向他提供价值10亿美元的薪酬方案。
Meta AI 研究员 Andrew Tulloch 将离开公司。Tulloch 于去年从 Thinking Machines Lab 加入 Meta,并因被报道为科技行业薪酬最高的员工之一而受到关注。
OpenAI 将 GPT-6 Astra 定位为其目前最强大的企业模型。公司表示,该模型具备先进推理、计算机操作能力,以及更出色的写作和设计判断力。不过,这项公告没有提供独立性能数据或基准测试结果。
苹果为 iPhone 18 Pro 系列推出“Apple 参考图像”功能,用户可借此证明照片由设备拍摄并保留了原始内容。新主摄会在像素层面安全标注照片数据,专用云计算随后将这些标注数据转换为不可更改的图像,并保存到“照片”App 中。参考图像会与普通可编辑照片并存,作为完整保留原始拍摄内容的存档版本。目前,这项功能无法在中国市场使用。在欧盟,iPhone 18 Pro 上市时也不会提供该功能,但运
旧金山市检察官办公室要求Meta解释有害的人工智能相关广告为何反复出现在Facebook和Instagram上。Meta称,这些广告不在旧金山市的管辖范围内。
Apple Watch 的新智能聆听功能在用户选择启用后,可以持续收集并转录对话。苹果表示,原始音频无法被访问,并会在处理完成后删除。不过,这些功能持续监听周围环境,仍引发隐私和安全方面的担忧。