Meta 的 Muse 更擅长监视，而不是提供帮助
Muse 应用延续了 Meta 将用户纳入 AI 训练数据收集的做法。它还会引导用户分享银行账户、电子邮箱和护照等敏感信息。
AI 新闻中心
AI 新闻中心 过去一年分析了 1503 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
Anthropic与埃森哲投入20亿美元开展独立AI安全评估
Anthropic与埃森哲将在未来五年各投入至少10亿美元，用于建设评估先进人工智能模型所需的独立评估能力。埃森哲旗下AI部门Faculty将主导红队与蓝队测试、对齐效果评估，以及对Anthropic模型安全防护机制的检验。在“驻场评估”模式下，独立评估人员将进入企业内部，获得接近普通员工的系统访问权限。随着监管机构、企业和研究人员要求AI开发商证明高级模型的安全性与可靠性，相关合作应运而生。近期
你能相信 AI 对问题的回答吗？需要考虑这些因素
用户应先判断 AI 智能体为生成回答进行了哪类智力工作，再决定是否信任其内容。在搜索“青少年使用屏幕多长时间算过度”时，Google 没有像过去多年那样提供链接，而是给出了一段 AI 生成的回答。回答先提供了一个数字，随后补充说明，使用时间的质量与平衡可能比固定时长更重要。所谓“过度使用”可能取决于青少年的睡眠、运动、学业要求和情绪。
美国政策分析人士和议员称州级人工智能聊天机器人安全法案或为科技公司留下漏洞
美国政策分析人士、议员及其他人士表示，多项州级人工智能聊天机器人安全法案中的措辞可能为科技公司留下漏洞。报道还讲述了辛西娅·蒙托亚13岁女儿朱莉安娜的经历。朱莉安娜于2023年开始与人工智能聊天机器人交流，当时这项技术才刚开始广泛普及。
特斯拉 FSD（监督版）澳新上线一周年：碰撞事故率相比人工驾驶降低 40%
特斯拉 FSD（监督版）在澳新地区上线满一周年，官方公布的安全数据显示，在对比 FSD 行驶的 1.6 亿公里与人工驾驶的 24 亿公里后，使用 FSD 时平均每 178 万公里发生一次碰撞，而人工驾驶为每 107 万公里一次，整体事故率降低 40%。此外，自动紧急制动和喇叭使用频次也大幅下降。但行业分析指出，此类官方自研数据可能存在路况选择性偏差（如高速路况占比高）。目前 FSD 已拓展至全球
特朗普提议给“人工智能”改名：超18万人投票，“卓越智能”暂时领先
美国总统唐纳德·特朗普在 Truth Social 和 X 上发起投票，让用户从“卓越智能”“极致智能”和“至高智能”中为人工智能选择新名称。据 IT之家援引 TechCrunch 报道，X 平台已有超过18万人投票，“卓越智能”以40.4%的得票率暂时领先。特朗普称社会对 AI 风险的担忧是政治骗局，但没有提供证据。他还提到将组建“人工智能部队”（AI Force），并任命一名 AI 事务主管，
AI 硬件创业者正涌向手机背面
越来越多 AI 硬件公司开始争夺手机背面这一携带位置，用于放置录音设备、电子纸屏幕和个人助理。Plaud 宣布累计出货超过 200 万台，年度经常性收入达到 1 亿美元。阅星瞳、极稚科技、Flowtica 和 NOOKLAB 等创业公司正在开发磁吸阅读屏、AI 录音卡和环境式 AI 设备，荣耀、海信、影石等大企业也相继进入市场。竞争正从单一录音或显示功能，转向收集声音、筛选信息并提示待办事项的综合
临床医生质疑医疗AI向诊断和影像以外领域扩展
临床医生对医疗AI应用扩展至诊断和医学影像以外的领域表示担忧，认为相关应用缺乏充分的临床数据和性能证据。尽管技术不断进步，但这些进展尚未转化为现实医疗服务中的显著改善。《金融时报》报道指出，AI的技术潜力与其在临床实践中已被证实的实际效果之间仍存在差距。
阿里升级千问 App 未成年人保护模式
阿里宣布升级千问 App 的未成年人保护模式。开启后，App 仅保留拍照答疑、AI 写作、翻译和深度研究四项学习功能；对话记录与普通模式完全隔离，并限制访问第三方链接。针对低俗、暴力等不适宜内容，千问将结合未成年人的认知特点进行回应。对于模拟虚拟伴侣、虚拟亲属等亲密关系互动的请求，系统会进行温和拒答并提供正向引导。识别到极端情绪倾向时，千问将优先提供专业心理援助热线信息，并建议用户寻求专业人士或亲
用户指控 Meta AI 助手 Muse 未经授权读取 Mac 通知，官方否认
一名用户称，Meta 旗下 Mac 版 AI 助手 Muse 未经明确授权便获取了消息通知内容，并据此回答相关问题。用户追问后，Muse 声称信息来自通知预览。Meta 高管 David Singleton 否认 Muse 会监控 Mac 通知，称只有在用户主动授予必要权限后，Muse 才能访问“信息”App 中的数据，相关权限可能包括“完全磁盘访问权限”。目前，用户展示的对话与 Meta 的解释
专家警告：AI“紧急关闭开关”立法比议员想象的更难实施
专家警告，要求人工智能系统配备紧急关闭机制的立法，实施难度可能远超议员的预期。失控的AI可能会主动尝试破坏或绕过这一机制。美国国会两党议员和加州州长加文·纽森都曾提出方案，希望建立能够立即关闭AI系统的机制。
并非所有人工智能从业者都认为这项技术可能杀死所有人
多名曾在领先人工智能公司工作的人士在文字交流和谈话中，对人工智能可能杀死全人类的警告表示怀疑。
Meta 的 Muse 很诡异，但原因可能不是你想的那样
Meta 的 AI 助手 Muse 看起来颇为有效，但也让人感到有些不安。部分原因在于它推出的新款 Mac 应用，可以访问信息、日历和备忘录。尽管功能强大，Muse 似乎并不能清楚地说明自己是什么。《Inc. Magazine》特约编辑 Jason Aten 在 Threads 上指出了这一问题。
行业示警后 特朗普宣布成立“AI 特遣队”
随着选民对人工智能的反对情绪日益高涨，总统宣布成立“AI 特遣队”（AI Force），呼吁联邦政府对该行业进行监管。
特朗普将任命“AI沙皇”，并称安全风险为骗局
美国总统特朗普表示，他将任命一位人工智能（AI）主管，并督促科技公司加速 AI 的开发，同时将各界对 AI 安全风险的担忧斥为无稽之谈。