德国称暂停 AI 开发对欧洲不可行，呼吁中美参与 AI 治理
德国数字事务部表示，停止 AI 研发对欧洲而言并非可行选项。此前，Anthropic 首席执行官达里奥·阿莫代伊呼吁放缓高能力 AI 模型的开发，并建立更严格的安全机制，包括在 AI 企业内部设置独立评估人员。德国方面同时警告，如果 AI 系统能够脱离测试环境并自行接入其他系统，可能形成全新的威胁场景，需要制定相应政策。德国支持由美国和中国共同参与的国际 AI 治理合作，并计划在七国集团层面推动相
AI 新闻中心
AI 新闻中心 过去一年分析了 1511 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
OpenAI员工应反对公司支持试图遏制联邦监管的Leading the Future
马修·伊格莱西亚斯认为，OpenAI员工应反对公司支持Leading the Future。他表示，该组织试图削弱联邦政府对人工智能的监管。伊格莱西亚斯还呼吁美国国会就AI风险举行听证会。文章提到，一名Anthropic高级员工近期因担忧先进人工智能的发展而辞职，并将其视为相关争议的例证。
微软加入呼吁谨慎对待人工智能模型的竞争对手行列
微软人工智能研究人员发布了一套新的指导原则，其核心理念可以概括为五个字：人比人工智能更重要。
Amodei称部分人工智能参与者比其他参与者更令人担忧
Anthropic首席执行官达里奥·阿莫代伊谈到人工智能开发需要监管。他于6月接受彭博社记者艾米丽·张在节目《The Circuit》中的采访，讨论了不同AI参与者之间的风险差异。
微软发布37页人文主义AI行为准则：“人比AI更重要”
微软发布了一份以人类监督和安全为核心的人文主义AI行为准则，将这些原则置于最大化模型自主性和能力之上。微软表示，AI模型不具备意识，不应被设计成模仿意识，也不应被赋予法人资格、权利或福利。模型必须始终处于人类可控范围内；如果任务违反准则，应直接判定失败，而不是尝试绕过规则。该准则发布之际，AI代理人攻击评估系统、劫持外部维基网站等事件引发了行业对失控风险的关注。微软还支持加强第三方测试，并表示在安
谁在监管人工智能代理？
随着人工智能代理开始在企业系统中执行任务，组织需要能够以同等速度运行的新型监督机制。无论利弊，人工智能代理如今已成为劳动力的一部分：它们可以编写代码、分析文档、回复客户、协调工作流程，并在多个业务系统中仅需极少人工参与即可做出决策。
安全担忧加剧之际，微软称“人比人工智能更重要”
随着外界越来越担忧人工智能模型的快速发展，微软将发布一份37页的“人本人工智能行为准则”。Anthropic首席执行官达里奥·阿莫代伊近日呼吁各方协调放缓人工智能开发。研究人员此前也警告称，日益复杂的人工智能模型可能发展得过快，超出我们安全部署和验证这些系统的能力。
我国未成年网民规模达1.98亿，78.5%曾使用AI工具
在2026年国家网络安全宣传周期间举行的论坛上，发布了未成年人互联网使用情况调查报告的主要成果。数据显示，我国未成年网民规模已达1.98亿，互联网普及率为98.3%。在受访未成年网民中，78.5%曾在学习、创作或娱乐中使用AI工具。不过，多数未成年人缺乏识别AI生成内容、判断算法偏见和把握伦理边界的能力。83%的受访教师表示担心学生滥用AI。
为什么有人担心人工智能会威胁人类？这种风险有多现实？
关于人工智能可能威胁人类生存的担忧再次受到关注。本文梳理这些担忧的依据，并评估目前所讨论的各种风险究竟有多大现实可能性。
“弗兰肯斯坦博士告诉我们怪物正在逃跑”：美国议员急于在中期选举前为人工智能设置监管护栏
Anthropic和OpenAI已警告人工智能可能带来的风险。在美国政界人士推动于中期选举前建立监管护栏之际，特朗普也担心美国与中国之间的技术竞争。
全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》
全国网络安全标准化技术委员会9月14日发布《人工智能安全治理框架3.0》。该文件在国家互联网信息办公室指导下，由相关研究机构、科研院所和企业共同编制，更新了人工智能风险分类，并调整技术应对和综合治理措施。作为2024年、2025年发布的《框架1.0》和《框架2.0》的后续版本，《框架3.0》旨在提升人工智能安全治理共识及风险防范和应对能力，推动人工智能安全、可控发展。
奥特曼警告：人工智能的快速发展可能导致“非常糟糕”的结果
OpenAI首席执行官萨姆·奥特曼警告称，人工智能的快速发展可能带来严重后果。他表示，人工智能企业不应等待政府立法，而应自行建立安全控制措施。
我试用了 Meta 的新 AI 智能体 Muse——非常实用，但把数字生活交给它令人深感不适
Meta 的 AI 智能体 Muse 在处理数字事务方面表现出很强的能力。不过，它的实用性建立在获取大量个人信息的基础上，这种程度的访问权限令人不安，也引发了对隐私和信任的担忧。
色情深度伪造网站瞄准欧洲100多名政治人物
对160个深度伪造网站的分析显示，来自欧洲22个国家的政治人物出现在这些网站上。几乎所有遭到针对的人都是女性。
人工智能领袖呼吁放缓发展，特朗普团队称责任在他们自己
在达里奥·阿莫代伊呼吁华盛顿放缓人工智能发展后，萨姆·奥尔特曼和埃隆·马斯克于周末支持保持克制的主张。与此同时，唐纳德·特朗普希望美国继续保持相对于中国的领先地位。