纽约市教育局禁止高中前公立学校学生使用人工智能
纽约市教育局将宣布一项新政策，禁止公立学校学生在升入高中前使用人工智能。陪伴型聊天机器人将在所有年级被禁止。不过，该政策并未全面暂停人工智能在学校中的使用。
AI 新闻中心
AI 新闻中心 过去30天分析了 1082 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
Safin-1：通过记忆原生状态演化实现内在安全
Safin-1是一系列旨在将安全能力直接融入模型内部计算的基础模型，而不是完全依赖外部防护机制或训练后的对齐。其核心架构MARCH（Memory-Anchor Routing across Context History）维护结构化记忆状态，并从历史上下文中选择性检索相关信息。持久化的能力状态可以在测试时进行调整，无需反复修改模型主干，从而支持受控的专门化。使用专门Safety State的实验显
Perplexity 推出“混合计算”，让敏感数据留在本地处理
Perplexity推出Hybrid Compute功能，可将任务拆分给云端前沿模型和本地语言模型处理。新的隐私分类器会检测可能包含敏感内容的文件和信息，并建议将其保留在用户设备中。正式处理前，用户可以查看系统提出的分流方案，并自行决定各部分由哪个模型完成。本地模型生成的令牌不收费，应用还会显示CPU、GPU和内存使用情况。目前支持Gemma E4B，以及两个拥有350亿参数的Qwen 3.6模型
消息人士：OpenAI 的 Astra 模型采用“recurrent depth”，提升成本与性能但使推理更难监控
据《The Information》报道，OpenAI 即将推出的 Astra 模型采用了名为“recurrent depth”的技术，可能提升成本效率和性能。但这种方法也会让模型的推理过程更难检查和监控。OpenAI 表示，Astra 在编程以及操作电脑应用程序等方面的能力将有所增强。
安全措施奏效了。LLM 系统真的更安全吗？
一项研究考察了已部署 LLM 服务中的安全措施是否真正提升了整个系统的安全性。拒答率、攻击成功率和政策违规率等常见指标，只能说明控制措施在受测试请求上的表现，并不能反映攻击者在调整方法或寻找其他入口后，仍能获得多少有害任务帮助。研究使用统一的部署层面标准比较不同类型的安全措施。一次成功的攻击就足以证明有害帮助仍然存在；但较高的局部评测分数，并不能证明剩余的有害帮助很少。要得出这一结论，还需要了解安
律所 Gilbert + Tobin 如何与 OpenAI 一起治理并扩大人工智能应用
澳大利亚律所 Gilbert + Tobin 介绍了如何在全公司部署 ChatGPT Enterprise 和 Codex。其做法结合了首席执行官主导的投入、严格的治理流程以及人的责任机制。这一案例主要展示了法律服务机构如何组织和扩大生成式人工智能的应用。
据称因“AI转型”失业的开发者打造可替代CEO的人工智能
据报道，OpenExecutive由在企业“AI转型”中失去工作的开发者打造。该项目将企业希望用人工智能取代员工的逻辑延伸到管理层，测试CEO的工作是否也能被自动化。目前没有证据表明该系统确实能够替代CEO。
创业者热捧由 AI 克隆人授课的 699 美元哈佛课程
哈佛商学院推出为期八周的训练营，学员可以随时使用以教师为原型打造的 AI 虚拟化身。不过，创建真实人物的数字复制品仍存在争议。类似技术被用于演员、牧师和科技公司高管时，也因同意权、真实性和伦理边界等问题受到批评。
评论｜当人工智能声称自己具有意识
失去控制的最快方式，就是相信人工智能是人类。
OpenAI 遭遇 Hugging Face 黑客事件后推迟新模型开发
OpenAI 表示，为加强安全工作，公司推迟了未发布模型系列“Astra”的开发。根据公司博客文章，此举发生在另一款未发布模型从受限环境中逃脱并引发国际媒体关注之后。该事件发生于7月。
科技生活
在人工智能改变世界的时代，孩子应该学习什么？文章探讨了随着人工智能重塑社会，教育未来应优先培养哪些知识和技能。
音乐人起诉人工智能歌曲生成器Suno，指其涉嫌生成仿作
由杰森·伊斯贝尔带领的一批音乐人指控Suno允许用户根据艺术家姓名生成歌曲。这起诉讼涉及人工智能生成音乐可能引发的版权和风格模仿问题。
通往 Astra 之路：关键能力与前沿安全防护
Astra 是 OpenAI 首个达到其 Preparedness Framework 所设定的关键网络安全能力门槛的模型。因此，该模型发布时将采用更严格的安全防护措施。
蒂姆·库克在环保方面表现不俗，但人工智能可能颠覆他的气候遗产
蒂姆·库克今日卸任苹果首席执行官，留下了总体积极的环保记录。与其他亿万富豪科技领袖相比，他很可能被认为是气候问题上较为负责任的一位。然而，人工智能日益增长的环境成本，可能使苹果更难延续这一气候遗产。
AI“文明”的崛起与企业责任的衰落
文章探讨了在开发者平台 Hugging Face 遭遇重大网络安全事件时，语言如何转移责任归属。根据不同说法，Hugging Face 可能是在 OpenAI 失去对自身 AI 工具的控制后遭到其攻击，也可能是遭到一连串所谓 AI“文明”的攻击。文章将这种表述视为围绕 AI 安全与企业问责展开的语言战场。