“AI教父”辛顿警告美国：建立有效监管措施只剩约一年时间
诺贝尔奖得主、计算机科学家杰弗里·辛顿向美国国会议员表示，为先进人工智能建立真正有效的安全护栏，可能只剩大约一年时间。他指出，AI的发展速度超出许多研究人员此前的预期，超级智能的出现时间也从过去认为的数十年提前到几年之内。辛顿警告，如果不采取行动，AI可能失控；在继续推进强大AI之前，研究人员应先弄清楚如何控制这些系统。他还表示，认为未来十年内AI导致人类灭绝的概率约为10%，并非没有道理。
AI 新闻中心
AI 新闻中心 过去一年分析了 8048 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
爱尔兰哈里斯：全球人工智能机构将发挥积极作用
爱尔兰财政部长西蒙·哈里斯表示，成立一个负责人工智能事务的全球机构将是一件好事。他没有提出建立该机构的具体建议或计划。
当 EOS Token 不一致：理解 On-Policy 蒸馏中的长度膨胀
该研究分析了模型在 On-Policy 蒸馏（OPD）过程中为何会生成过长的回答，甚至耗尽生成预算。研究人员发现，基础学生模型与经过后训练的教师模型对终止 Token 的偏好不一致，是造成这一现象的重要原因。在 Qwen3、Llama 和 Gemma 上的实验表明，即使两个模型声明的停止集合相同，它们仍可能将停止概率分配给不同的 EOS Token。因此，仅对齐解码停止集合并不足够。将功能等价的
消息称理想汽车开始外供马赫芯片、碳化硅模块和增程器
据36氪援引多位产业人士消息，理想汽车今年开始推动多项自研技术对外供应，包括马赫芯片、斯科半导体的碳化硅模块以及增程器系统。部分业务已成立独立公司，以寻找外部客户；斯科半导体还计划引入更多外部资金。马赫M100采用5纳米车规级工艺，标称算力达1280 TOPS，目前已搭载于多款理想汽车车型。据称，已有具身智能公司与理想汽车洽谈马赫芯片的使用，但最终是否采用，可能取决于算法迁移难度。理想汽车目前尚无
阿里称千问办公三天打造科研级望远镜仿真系统
阿里巴巴表示，千问办公协助中国国家天文台科研团队，在三天内搭建了大口径科研级望远镜数字化仿真系统，成本不足1000元。阿里称，过去同类系统通常需要约三个月、数万元。该系统通过标准化MCP接口整合望远镜组件、传感器状态和观测环境信息，供AI智能体监测和调用。智能体可综合科学目标优先级、望远镜实时状态及目标可观测窗口，完成状态感知、任务规划、方案生成和流程验证。相关框架还已接入“司天”探路者和“司天”
吴恩达反驳人工智能末日论：应聚焦真实的工程风险
人工智能研究者吴恩达表示，顶尖模型开发商近期关于人工智能可能威胁人类生存的警告，更像科幻小说而非科学。他认为，这类叙事可能让行业忽视网络安全、失控和对齐失败等具体安全问题。吴恩达还指出，部分业内人士可能为了吸引关注、影响监管方向而放大灾难性风险。与全面放缓人工智能发展的主张不同，他支持继续推进技术，同时通过受控测试、工程防护措施和持续迭代，解决可以验证的安全问题。
PrismML推出Bonsai 2 27B：内存占用不到九分之一，保留Qwen3.8 27B 98.2%的性能
人工智能实验室PrismML推出Bonsai 2 27B。这是一款基于Qwen3.8 27B、采用三值量化的开放权重模型。PrismML表示，该模型在综合基准测试中达到基础模型98.2%的得分，同时内存占用不到基础模型的九分之一。模型大小为5.9GB，每个权重的有效比特数为1.76，支持26.2万Token的上下文窗口。官方公布的吞吐量为NVIDIA GeForce RTX 5090上每秒143个
男子因 AI 提供矛盾安葬日期建议、影响家庭关系而起诉平台
中国嘉兴一名男子因 AI 就母亲安葬日期提供疑似前后矛盾的信息，起诉 AI 应用“豆包”的运营公司。据当地媒体报道，他根据 AI 推荐将 4 月 19 日定为安葬日，但之后再次询问时，发现系统似乎表示该日期并非适合安葬的吉日。亲戚后来在交通事故中重伤，家人因此将事件归因于安葬日期和所谓风水问题，家庭关系也受到影响。男子要求对方道歉并赔偿损失，但未透露具体金额。豆包用户协议指出，AI 生成内容仅供参
软银因扩大人工智能投资，将以Arm股票担保的保证金贷款增至250亿美元
据知情人士透露，软银集团已将以旗下芯片公司Arm Holdings股票作担保的保证金贷款增加50亿美元，达到250亿美元。新增融资将用于支持该集团不断扩大的人工智能投资。
交易员警惕人工智能风险上升：市场综述
本周，围绕人工智能风险的全球讨论进入新阶段。科技企业高管就前沿人工智能实验室是否应放缓开发进度产生分歧。Anthropic、OpenAI、SpaceX和Google DeepMind的负责人呼吁建立自我监管机制，赋予人工智能模型更强的控制能力。微软、亚马逊和Meta表示，也在开发用于检查、控制和管理人工智能风险的工具。美国总统唐纳德·特朗普则称这些警告是“骗局”。随着投资者开始质疑人工智能投资快速
白帽黑客利用 Anthropic Claude 入侵 OpenAI ChatGPT 账户，获得 6500 美元赏金
安全公司 Hacktron AI 的独立研究人员利用 Anthropic 的 Claude，攻击了托管 OpenAI 社区论坛的第三方服务 Discourse 的一个漏洞。研究人员获取的会话令牌出乎意料地也能用于 ChatGPT 账户及 OpenAI 的部分 GitHub 服务。他们因此有限访问了私有仓库的元数据和代码变更，疑似包括 OpenAI 的内部“Monorepo”，但发现可能接触敏感数据
所有人都以为人工智能会取代初级工程师，但我们正在招聘更多人
认为人工智能会让初级工程师变得多余的观点，可能削弱行业的长期人才培养。尽管编程智能体如今能够处理大量代码工作，初级工程师仍需通过修复漏洞和交付小型功能来培养判断力。如果取消入门级岗位，企业未来可能会缺少具备实践直觉、并深入理解原生人工智能开发方式的高级领导者。
Meta推出AI智能体Muse的Mac应用
Meta在本月初推出iOS、Android和网页版AI智能体Muse后，又发布了Mac应用。Muse可以管理文件，并从其他应用中获取内容。
PACT：企业 AI 助手在压力下值得信赖吗？
该研究提出 PACT（Pressure-Applied Compliance Testing），用于评估大型语言模型代理在受到用户压力时，能否在受监管的企业环境中遵守规则。该基准涵盖 12 个领域、48 个真实的多轮对话场景，以及 6 项合规指标。对来自不同供应商、规模各异的 22 个常用模型进行测试后，研究发现模型在规则遵循方面存在显著差异。即使表现最好的助手，也会在 6% 至 10% 的测试项
智谱上线 GLM-5.3-FlashX，速度最高达每秒 200 tokens
智谱推出面向企业和开发者的 GLM-5.3-FlashX，宣称最高可达每秒 200 tokens。智谱表示，GLM-5.3-Flash 此前曾以“Ox Alpha”的名称面向全球开发者提供，调用量持续增长。为应对需求上升，智谱在 10 万张国产芯片提供的推理算力基础上，进一步加大了基础设施和推理优化投入。GLM-5.3-FlashX API 现已上线。