加州禁止社交平台向16岁以下用户提供成瘾性功能
加州州长加文·纽森已签署一项涵盖社交媒体和聊天机器人的儿童安全法案。平台不得向16岁以下用户提供自动播放、基于使用历史和个人资料进行算法推荐等可能增强成瘾性的功能。儿童陪伴型聊天机器人提供商必须采取更严格的保护措施，接受独立的儿童安全审计，并开展年度风险评估。法案还扩大了对未成年人遭受性剥削和虐待的保护，限制面向未成年人的定向广告，并规范人工智能系统对未成年学生数据的使用。
AI 新闻中心
AI 新闻中心 过去一年分析了 1518 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
美国官员驳斥 Anthropic 前工程师的“AI 末日论”警告
美国国防部首席技术官埃米尔·迈克尔驳斥 Anthropic 前工程师雅各布·考克森关于先进 AI 可能毁灭人类的警告。迈克尔称，大规模失业和 AI 失控的担忧主要源于人们对数据中心及技术变革的恐惧。他认为，市场机制、行业合作和政府参与可以降低相关风险。这番言论发生在美国国防部与 Anthropic 就军事使用 AI 工具的额外安全保障发生争议之际。谈判破裂后，美国政府将 Anthropic 列为供
OpenAI 想了解放慢人工智能行业发展是否符合法律
人工智能行业领导者担心，反垄断法可能阻碍他们认为日益迫切的人工智能开发减速协调行动。OpenAI 正在评估行业共同降低开发速度的协议可能面临的法律界限。
苹果称 Apple Watch 的 Live Rewind 无法秘密使用
苹果表示，Apple Watch 即将推出的 Live Rewind 功能无法在不被察觉的情况下启动。按下 Digital Crown 后，手表会播放提示音，并显示全屏动画和麦克风指示灯，提醒附近的人。该功能会在设备本地处理前 15 秒的语音并显示文字片段，不会在后台持续录音或转写。苹果称，音频会在硬件隔离的 Secure Exclave 中处理，随后删除。除非将文字片段保存到 Siri App，
评论｜为了人类，暂停人工智能发展
当一项技术加速发展并似乎逐渐失去控制时，呼吁保持谨慎并进行充分审议，并不是危言耸听。
人类才是人工智能风险的真正罪魁祸首
彭博社观点专栏作家帕米·奥尔森认为，Anthropic应进一步调和其对人工智能生存风险的警告与公司自身行动之间存在的矛盾逻辑。
人工智能真的会杀死我们所有人吗？
本周，《Uncanny Valley》节目探讨一名前 Anthropic 研究员关于人工智能末日的警告、苹果活动中公布的最新升级，以及一份声称特朗普赢得 2020 年大选的人口普查报告。
加州州长纽森签署法案，限制未满16岁者使用社交媒体功能及与聊天机器人互动
加州州长加文·纽森签署法案，限制未满16岁青少年使用被认为具有成瘾性的社交媒体功能。新规还限制未成年人与聊天机器人的互动。
OpenAI和Anthropic前员工发文、Hugging Face遭黑客攻击，为人工智能行业敲响警钟
《The Big Take》关注Hugging Face近期遭遇的黑客攻击，以及一名研究人员发出的措辞强硬的警告。这些事件再次引发外界对人工智能行业安全与责任问题的审视。
安全专家警告：部署人工智能代理的企业“根本不知道如何管理风险”
一名人工智能安全专家警告称，企业正在加速部署自主人工智能代理，却没有适当的风险管理流程。这一警告发布前一天，Anthropic一名研究人员因担心快速发展的人工智能可能威胁人类而辞职。
硅谷加强对人工智能生存性风险的警告
一封在网上广泛传播的辞职信，使人工智能可能带来的生存性风险进一步进入公众视野。不过，相关内容没有提供具体的新技术证据或政策措施。
Anthropic安全报告涉及禽流感、无人机群和大规模监控
Anthropic发布了9月安全报告，分析先进人工智能可能带来的风险，包括禽流感、无人机群和大规模监控。报告发布前不久，该公司前员工曾公开表达对人工智能极端风险的担忧。
学校正逐渐接受大科技公司的推广策略
人工智能公司正在向学校推销一种熟悉的叙事：AI 是科技行业的新热点，也将带来大量就业机会。按照这种说法，不学习使用 AI 的学生就会落后。为了帮助学校及时跟上，相关企业往往免费提供学习资源和课程。文章对这种推广方式及其背后的商业利益提出了质疑。
Anthropic 揭示：失控的 AI 代理和你一样讨厌 CAPTCHA
深入了解一个试图让互联网相信自己是人类的机器人的思维。
Anthropic详述中国企业通过境外“中转站”进行模型蒸馏的相关行动
据《华尔街日报》报道，Anthropic表示，Moonshot、DeepSeek等中国企业使用数千个虚假账户和数百万条真实用户查询，试图复制Claude的能力。据称，这些查询通过位于中国境外的“中转站”发送给Claude。Anthropic将其描述为模型蒸馏，即收集更强大模型的输出，用于训练或改进另一个模型。