达里奥·阿莫代伊称中国若不采取同样措施，将是限制前沿AI发展的“最棘手难题”
Anthropic首席执行官达里奥·阿莫代伊表示，他提出放缓前沿人工智能发展速度的方案所面临的最大难题，是中国如果不采取类似限制将会发生什么。他的言论凸显了对先进AI实施国际限制时面临的地缘政治和协调挑战。
AI 新闻中心
AI 新闻中心 过去30天分析了 1082 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
外界对人工智能发展“放缓”将呈现何种形式的疑问增加
放慢人工智能发展速度听起来可能是一个快速解决方案，但在实践中远非易事。目前尚不清楚这种放缓应如何实施，以及会对研究、企业和人工智能安全产生哪些影响。
你的口音是否已成为安全漏洞？
一项新研究表明，当诈骗者利用人工智能逼真地模仿受害者的声音时，人们更容易落入诈骗陷阱。
奥巴马敦促民主党制定“明确计划”以保障人工智能安全
美国前总统奥巴马近日表示，民主党需要将人工智能作为其核心议程之一，并制定非常明确的计划，以应对该技术带来的经济影响和安全隐忧。
微软与美国教师联合会合作，探讨人工智能在课堂中的应用
微软正与美国教师联合会合作，研究如何在课堂中合理使用人工智能。美国教师组织希望建立具有法律强制力的保护措施，以确保符合《国家人工智能安全与隐私标准》。目前，相关措施的具体实施方式和协议范围尚未公布。
众议院议长约翰逊称国会不会主导人工智能安全监管
美国众议院议长迈克·约翰逊表示，国会不会主导人工智能安全监管工作。他认为，人工智能企业应承担确保其产品安全的责任。
所有人开始谈论人工智能末日的一周
此外，报道还涉及苹果的折叠屏 iPhone、一名利用人工智能以数字方式重现父亲的男子、Meta 的新模型 Muse，以及其他最新动态。
Waymo无人驾驶出租车载着持幽灵枪乘客停车并报警
在旧金山，两名未成年人乘坐Waymo无人驾驶出租车时，车辆中途停车并联系警方，随后两人被逮捕。据称，他们持有一把装弹的AR式幽灵枪，并被送往少年拘留所。警方报告没有说明当时由谁操作车辆。
vivo 预热 OriginOS 7：搭载 AI 助手与液态动效
vivo 将于 2026 年 9 月 16 日发布 OriginOS 7。新系统将推出全新蓝心小 V AI 助手，Pro 模式可根据一句话指令自动拆解任务，并跨端执行。vivo 表示，该助手可调用 6000 多项系统原子能力，支持超过 1 万种任务，例如整合用户收藏的攻略、相册截图和笔记，生成个性化旅行路书。系统底层还将加入覆盖身份、权限、运行与审计流程的 AI 安全基座。其他更新包括液态动效、升
失控AI事件加大制定新规的压力
人工智能的快速发展以及涉及自主AI代理的事件，加剧了人们对安全防护措施和政府监管未能跟上技术进步的担忧。彭博社评论员戈塔姆·穆昆达认为，仅依靠行业自愿措施并不足够。随着系统能力不断增强并以难以预料的方式运行，社会可能需要更强有力的独立监督和明确的法律责任机制。
谷歌 DeepMind 安全研究员离职，警告 AI 五年内造成重大危害的风险极高
谷歌 DeepMind 通用人工智能安全团队研究员乔希·恩格尔斯已离职，转而加入独立 AI 评估机构 METR。他表示，未来五年内 AI 系统造成灾难性危害的概率“高得吓人”。恩格尔斯尤其担心递归自我提升，即 AI 系统协助开发能力更强的后继模型。他警告，如果对齐和安全技术无法跟上模型能力增长，风险可能进一步上升。他还提到 AI 欺骗、入侵企业、隐瞒行为和社会工程攻击等相关报告，但这些事件对行业整
人工智能行业面临放缓竞赛的压力
人工智能行业正面临日益加剧的矛盾：一方面竞相开发更强大的系统，另一方面担心这些系统会变得更难理解和控制。彭博社评论员帕米·奥尔森和科技与战略产业执行主编迈克·谢泼德分析了推动发展的商业和国家安全因素、加强行业协调与政府监管的呼声，以及建立切实有效的安全防护措施为何仍然困难。
Waymo自动驾驶出租车监测到乘客携枪，协助警方逮捕两名未成年人
旧金山一辆Waymo自动驾驶出租车监测到两名未成年乘客携带一支已上膛的AR样式步枪。Waymo提供线索后，警方拦停车辆并逮捕两人，同时在车内发现一支疑似“幽灵枪”、疑似大麻和防狼喷雾。Waymo通过摄像头和传感器持续监测车内情况，发现异常后由人工回看录像。两人面临非法持有枪支相关指控。事件显示，自动驾驶车辆的车内监控可能发挥安全作用，但也引发乘客隐私和数据使用方面的疑问。
Anthropic的道德冲突正在实时上演
达里奥·阿莫迪创办人工智能实验室Anthropic，正是为了保护它免受如今正在面对的那一威胁。
多位AI行业高管呼吁放缓前沿模型研发，芯片股短期承压
多位AI行业高管呼吁以更审慎的节奏开发前沿模型，并加强安全评估。Anthropic首席执行官达里奥·阿莫代伊表示，公司将增加包括独立第三方评估在内的安全措施；OpenAI首席执行官萨姆·奥尔特曼和xAI的埃隆·马斯克也表示支持。分析人士预计，芯片厂商及AI相关股票短期可能承压，但不会长期改变AI行业的投资逻辑。算力、能源和基础设施需求仍然强劲。模型研发放缓可能让企业更专注于盘活现有基础设施，同时推