CrowdStrike CEO 反对放缓前沿 AI 开发：称“潘多拉魔盒已经打开”
CrowdStrike CEO 乔治·柯兹反对 Anthropic CEO 达里奥·阿莫迪提出的放缓前沿 AI 开发主张。他认为，开源权重模型和前沿 AI 已经在现实世界流通，冻结开发并不能消除网络安全威胁。柯兹主张加强防护机制，监测 AI 行为，并在运行时设置安全围栏，阻止系统实施有害行动。他承认 AI 智能体带来重大安全风险，但警告政府采取过于强硬的监管措施可能使美国落后于竞争对手。他更支持包
AI 新闻中心
AI 新闻中心 过去一年分析了 1509 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
比尔·盖茨：各国政府尚未准备好应对人工智能带来的社会变革
比尔·盖茨警告称，全球没有任何一个国家的政府已经充分准备好应对人工智能可能带来的社会变革。他指出，AI可能冲击就业，被用于发动攻击，也可能导致人们对AI陪伴程序产生依赖。尽管存在这些风险，盖茨仍认为AI在医疗、教育、农业以及药物和疫苗研发领域具有巨大潜力，有望帮助缩小贫富差距。盖茨基金会计划在未来两年投入至少10亿美元，扩大人工智能的普惠应用，并支持相关数据基础设施建设，包括帮助大语言模型适配更多
Anthropic、OpenAI 与谷歌据报磋商成立 AI 安全标准机构
据知情人士透露，Anthropic、OpenAI 与谷歌自 7 月起就成立 AI 测试、审计和行业标准机构展开磋商，并已在 CEO 层级以下组建工作组。Anthropic 首席执行官达里奥·阿莫代伊主张建立独立监督机制、推行自愿性安全标准，并向外部评估机构开放对先进 AI 系统的充分访问权限。OpenAI 首席执行官山姆·奥特曼支持这一构想，但认为主要 AI 实验室应在没有政府资助的情况下自行组建
微信回应小微AI隐私争议：不会读取用户已删除的朋友圈
微信否认网络流传的“小微直接读取聊天记录、窥探用户隐私”等说法。小微是微信团队开发的原生AI助手，目前仍处于小范围内测阶段，支持文字和语音交互，可查询天气、快递、外卖，并在微信内完成内容总结。微信表示，小微能够接触的信息不会超出用户本人可查看的范围，也不会读取已删除的朋友圈。在聊天场景中，只有用户主动发起询问时，小微才会临时调用指定聊天记录进行分析；处理完成后，原始记录将被丢弃，不会留存。此次回应
微信员工辟谣：AI助手小微不会直接读取聊天记录或偷看所有隐私
微信员工就正在小范围内测的AI助手“小微”回应了隐私疑虑。小微支持通过文字或语音查询天气、查快递、点外卖，也可在朋友圈、公众号、聊天和视频号等场景中总结内容。微信方面表示，小微能接触的信息不会超出用户本人有权查看的范围。在聊天场景中，只有用户主动发起“问小微”并指定聊天内容时，微信客户端才会在本地临时读取并分析相关记录，原始聊天记录不会被保存。对于“小微会直接读取聊天记录”“偷看所有隐私”等说法，
盖茨基金会未来两年投入至少10亿美元，推动AI更公平普惠
盖茨基金会宣布，未来两年至少投入10亿美元，推动AI及相关解决方案更广泛、公平地惠及全球人群。资金约40%用于教育，开发AI辅导工具和教学应用；约40%用于健康，支持诊断、临床决策、孕产妇和新生儿健康，以及新药和疫苗研发。农业和数字基础设施各获约10%，包括建设当前AI支持不足的语言数据集。基金会表示，应由当地社区参与决定数据的存储、共享和治理方式，并加强人才培养与技术可及性，让医生、农民、教师和
消息称英伟达限制内部使用 Anthropic 和 OpenAI 模型处理敏感数据
据《The Information》报道，英伟达、Palantir 和 Booz Allen Hamilton 等企业客户因担忧专有数据的处理方式，正在限制使用 Anthropic 和 OpenAI 的前沿模型。英伟达据称仅将 Anthropic 模型用于开源软件开发等敏感度较低的任务，并把最机密的业务交给自家的 Nemotron 模型。Anthropic 允许为检测滥用而保留客户数据 30 天的
人工智能是大脑的快餐
正如快餐企业利用人们对便利的需求，科技公司也在让人们越来越容易把思考外包给人工智能。一次令人不安的会计师谈话，使作者意识到大型科技公司已经做出了一项重大决定，而自己此前不知为何完全没有察觉。文章提供的是个人化的批判性观点，并没有针对某一具体产品或政策提出证据。
HazardAuditor：从可执行威胁到更安全的计算机使用代理
计算机使用代理正越来越多地操作浏览器、终端、文件系统和外部服务，由此产生的安全风险往往在运行过程中出现，而不仅存在于生成内容中。HazardAuditor在受控环境中运行Claude Code、Codex、Hermes和OpenClaw等不同代理，并将其交互统一为标准事件表示，以支持跨框架监督。研究人员还提出Guard Policy Optimization，解决基于词元的训练目标容易让较长推理过
比尔·盖茨：中美各有四家机构能让大模型保持最先进水平
盖茨基金会计划在未来两年投入10亿美元发展人工智能，重点是让贫困地区也能获得技术红利。比尔·盖茨在采访中高度评价中国人工智能的发展，称中国和美国各自都有至少四家机构的大模型能够保持最先进水平，但没有透露具体名称。他认为，开源模型对发展中国家尤其重要，并建议技术领先国家拿出数据中心5%的算力，作为数字援助免费提供给贫困国家。盖茨还讨论了数据中心排放、硬件价格上涨、AI对就业的影响以及社会不平等。他表
Hugging Face：良好伦理能够推动人工智能创新
Hugging Face 研究负责人兼首席伦理科学家玛格丽特·米切尔表示，如果得到妥善落实，人工智能伦理不仅不会拖慢创新，反而可以推动创新。她在彭博节目《Insight with Haslinda Amin》中接受了主持人哈斯琳达·阿明的采访。
Pick Your Poison：选择投毒数据集以增强对大语言模型的后门攻击
一项研究表明，大语言模型后门攻击的成功率高度取决于微调时选择哪些投毒样本。在三种基于 LLaMA-3-8B 的后门设置中，即使模型、干净数据和投毒样本数量完全相同，攻击成功率仍在 3% 到 80% 之间变化。研究人员将投毒数据集选择形式化为预算约束下的集合优化问题，并提出 SAILS。该方法通过数百次微调和评估，学习为数百万个候选数据集排序。与最强的基于影响力的基线方法相比，SAILS 在留出数据
Hugging Face 科学家警告自主式 AI 代理的安全风险
Hugging Face 首席伦理科学家玛格丽特·米切尔警告称，自主式 AI 代理可能使监管和监督更加困难。她表示，现有大型企业可能利用这些挑战限制竞争。米切尔认为，安全、隐私和网络安全应直接融入 AI 架构，而不应被视为推动前沿 AI 发展时必须作出的取舍。
Atria Dawn：面向科学研究与工程工作的智能体模型
Atria Dawn Preview是一款面向科学研究和工程工作流的智能体语言模型。该模型通过“可验证经验管线”训练，将工具交互连接到可执行环境和经外部验证的结果。在涵盖研究、工程和数字工作的16项基准测试中，Atria Dawn的表现可与前沿智能体竞争，并在其中5项取得已公布的最高分。对56名参与者完成的769项任务进行分析发现，人类仍掌握大多数最终决策，而智能体经常提出方法并实施修改。参与者认
OpenAI研究员警告：人类可能正逐渐失去评估先进AI模型的能力
OpenAI能力研究员丹·塞尔瑟姆在一份公开的个人人工智能风险声明中表示，顶尖模型似乎正变得越来越具备情境感知能力，这可能使人类更难可靠地评估它们的能力和行为。他还警告称，人们正越来越依赖人工智能来引导研究。这些说法属于个人观点，并未提供证明新能力或重大技术突破的独立证据。