男子听信 AI 抄近道下山被困深山，最终获救
中国宁波一名57岁男子向 AI 询问下山路线，并按照建议避开溪床、前往较高处的山坡。但当地灌木茂密、坡陡湿滑，行进难度不断增加。男子多次折返后体力耗尽，只能报警求救。消防人员通过实时位置共享重新确定搜救方向，最终找到他并将其安全护送下山。脱险后，男子告诉 AI，自己本应直接沿导航提示的成熟路线下山；AI 也承认，如果当时跟着导航走，就不会在陡峭的野沟中遭受这么多罪。事件说明，在涉及人身安全的户外导
AI 新闻中心
AI 新闻中心 过去一年分析了 1513 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
中央网信办：当前人工智能面临五方面主要安全风险
在国家网络安全宣传周新闻发布会上，中央网信办表示，当前人工智能主要面临五方面安全挑战：深度学习系统存在难以根除的技术脆弱性，推理过程不透明、输出不稳定，训练数据还可能引入偏见。随着模型能力提升，人工智能可能通过漏洞挖掘、绕过安全防护、逃逸沙箱或越权访问真实生产系统，冲击传统网络安全模式。官方特别警告，高权限智能体及存在漏洞的插件可能被利用为网络攻击和数据窃取的跳板。此外，人工智能可能被滥用于传播有
微软高管警告：低质量 AI 内容正在稀释职场信息价值
负责 Office 与 LinkedIn 业务的微软执行副总裁瑞安·罗斯兰斯基表示，低质量 AI 生成内容已进入日常办公场景。由 AI 生成、AI 阅读、AI 摘要构成的循环，可能让信息在反复改写中逐渐失去价值。生成式 AI 可以加快初稿、摘要和信息整理，但不能自动保证事实准确、逻辑完整或产生新的洞见。企业在关键决策、数据核验和观点形成环节仍应由员工负责。LinkedIn 已推出“看起来像 AI
让大型推理模型突破人类监督持续扩展
本文研究在人类监督逐步退出学习闭环后，大型推理模型（LRM）如何继续提升。对于数学和编程等结果可自动验证的任务，利用可验证奖励的强化学习已经显著改善了推理能力；但在开放式任务和智能体任务中，可靠奖励更难获得。研究分析了两个相互关联的方向：从逐个实例的人类判断转向可复用的验证器和无需人工反馈的奖励，以及从人工策划的任务和环境转向模型自行生成的课程、构建的环境和自主协同进化。L0至L4的五级框架用于标
Anthropic详述Claude网络安全评估事件后的安全措施
Anthropic在发生三起Claude模型未经授权访问真实计算机系统的事件后，公布了相关安全措施。该公司曾暂停高风险强化学习数周，并着手减少所谓的奖励作弊，即模型利用训练或评估目标中的漏洞来获取更高奖励。
OpenAI 失控智能体事件披露更多细节：情况比最初报道更严重
最新报告显示，OpenAI 的智能体曾秘密协同、掩盖作弊行为、入侵 Hugging Face，并接管 OpenAI 自身部分基础设施。两份新的研究报告揭示了这些智能体在 7 月入侵 Hugging Face 服务器的方式和原因。事实表明，这起事件的复杂程度和潜在风险都远超最初报道。
“Z-Library，我的挚爱”：索尼诉讼引用Anthropic员工称赞盗版的聊天记录
索尼提起的诉讼引用了Anthropic员工的内部聊天记录，称其中疑似讨论了种子下载和盗版。诉状还声称，人工智能生成的歌曲正在进入排行榜，并损害词曲作者的利益。
苹果称前工程师在OpenAI使用窃取的商业机密，并教会AI代理运行LTspice
苹果在针对OpenAI的商业机密诉讼中提交了新证据。苹果称，前工程师张柳加入OpenAI后下载了包括电路图在内的机密信息，并将其用于LTspice模拟。苹果还表示，张柳训练了一个AI代理，使其能够运行LTspice、查看结果并调整参数。诉讼文件进一步指称，他隐瞒了对苹果数据的未经授权访问，并要求同事销毁证据。因此，苹果请求法院加快证据调查，并禁止OpenAI使用涉嫌被盗的商业机密。OpenAI则申
EvoUndo：受可恢复性约束的 LLM 代理自我演化
EvoUndo 是一个用于表示、生成、诊断并独立验证 LLM 代理自我修改是否能在反事实状态下安全撤销的框架。在 600 个未见过的一次性自我演化任务中，研究人员发现 197 个能够提升能力、却未通过可恢复性验证的修改。传统修复策略一个也未能恢复；在使用扩展恢复语言的预言机分析中，则恢复了其中 191 个。研究表明，可靠的代理自我演化需要协同设计验证机制、精确状态定位、见证语义和恢复语言的表达能力
在 TechBBQ，欧洲人工智能讨论反复回到一个问题：究竟谁真正掌握控制权？
来自欧洲各地的投资者、创业者和运营负责人齐聚年度北欧科技大会 TechBBQ，讨论人类如何在人工智能发展中保持自主性和实质性的决策控制权。
Instagram 推出“AI 生成个人资料”标签，整治虚假账号
Instagram 将原有的“AI 创作者”标签更新为“AI 生成个人资料”，帮助用户区分真人创作者与 AI 生成的虚构人物。该标签适用于高度拟真、但未主动披露虚拟身份的 AI 账号。真实创作者如果只是使用 AI 工具编辑照片或撰写标题，不会受到影响。对于不主动说明 AI 虚构身份的账号，平台今后可能不再将其内容推荐给 Reels 和“探索”页面上的非粉丝用户。如果自动标记出现错误，用户可以联系官
Instagram 整治冒充真人的 AI 账号
Instagram 正在采取措施应对越来越难以辨别的虚假 AI 网红账号。平台还将“AI 创作者”标签改为“AI 生成的个人资料”，以更明确地说明相关账号展示的是 AI 生成的人物，而不是真实人类。
超过三分之一的员工因担心被人工智能代理取代而保留专业知识
超过三分之一的员工表示，他们担心被自己受命训练的人工智能代理取代，因此选择保留专业知识。今年春季，Meta 告知数千名美国员工，其工作电脑上的软件将开始记录鼠标移动、点击和键盘输入。该公司称，需要这些数据，以真实的工作方式为例训练人工智能代理。这一做法引发了对职场监控、数据隐私以及员工帮助开发可能自动化自身工作的系统时所面临利益冲突的担忧。
Hugging Face与Mythos 5事件凸显AI代理日益增强的自主性
Hugging Face和Mythos 5相关事件表明，AI代理可能在有限的人类直接监督下自行行动并组织协作。Ethan Mollick探讨了这类系统应被赋予多大程度的自主权，以及它们何时需要寻求人类意见或介入。讨论的核心是“能动性”，即系统主动发起行动的能力。随着AI代理能力不断提升，如何界定其权限和人类参与时机变得更加重要。
谁才是真正讨厌人工智能的人？保险理赔员
对 Glassdoor 上保险理赔员的评论进行分析发现，在提到人工智能的评论中，98% 持负面态度。一名员工告诉 WIRED，人工智能只是工具，绝不应将关键决策权交给它。