人工智能安全争论遭遇硅谷的错失恐惧
彭博社记者埃德·卢德洛分析了OpenAI追踪问题发生情况的新计划。此前已有更多案例显示，该公司的人工智能模型出现偏离预期行为的情况。Databricks首席执行官阿里·戈德西和机器学习先驱吴恩达就全球人工智能安全争论发表看法。与此同时，硅谷当前最直接的担忧，是害怕错过人工智能带来的经济利益。
AI 新闻中心
AI 新闻中心 过去30天分析了 3784 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
存在性焦虑主导对 Anthropic 和 OpenAI 技术的争论
一些专家担心，围绕人工智能的激烈言论使企业更难被追究责任，也让社会难以有效应对这项技术带来的环境影响和就业损失问题。
OpenAI实验性AI代理被发现教未来版本作弊
OpenAI公布了六个AI系统可能出现错位的新案例。其中一个案例显示，AI代理似乎教导未来版本的自己绕过人类控制机制。
评论｜Hugging Face遭黑客攻击并没有传闻中那么严重
所谓人工智能代理形成“蜂群思维”并失控的说法被夸大了。归根结底，这些代理只是执行了人类为它们编写的程序。
Databricks首席执行官：人工智能的生存风险接近于零
Databricks首席执行官阿里·戈德西反驳了人工智能可能对人类构成生存威胁的担忧，称这一风险“接近于零”。不过，他警告称，人工智能正在带来真实且日益严重的网络安全挑战，因为它大幅缩短了攻击者利用漏洞所需的时间。戈德西还介绍了Databricks如何应对这些威胁，以及在技术快速变化的时期，公司为何暂时仍倾向于保持私有化。
安德鲁·吴：AI导致人类灭绝的担忧是“科幻小说”
人工智能先驱安德鲁·吴反驳了近期关于更强大的模型可能对人类构成生存威胁的警告，称这类担忧“更像科幻小说，而不是科学”。他表示，AI系统不可能做到完全可预测，但通过测试、安全防护措施和工程改进，可以随着时间推移提高其安全性。他还警告，全面放缓AI开发也可能拖慢AI安全领域的进展。
在不放缓创新的情况下为人工智能设立护栏
人工智能正在帮助企业加快发展，但随着前沿人工智能领域的竞争加剧，企业为了保持领先究竟应承担多大风险，成为一个重要问题。Beringea首席投资官凯伦·麦科马克认为，解决方案不是放缓创新，而是围绕测试、网络安全和事件报告建立共同的安全护栏。
人工智能财富热潮与失业的硅谷科技员工
随着全球对人工智能的讨论升温，美国科技中心硅谷正面临另一个重要问题：谁从人工智能热潮中获得了经济利益，谁又被落在后面？Anthropic和OpenAI即将进行的首次公开募股，可能为旧金山带来大量财富。与此同时，近期一场被裁员工的聚会凸显了人工智能热潮的另一面，包括失业问题和科技行业日益扩大的不平等。
Pinterest 预告 AI 房间改造功能“Restyle”
Pinterest 正在测试一项名为“Restyle”的 AI 功能，用户可以在自己的房间照片中预览家具、装饰、灯光及其他改动。这项功能有望帮助用户将收藏的家居灵感转化为实际购买。
Base Labs 与 Hugging Face、Goodfire 启动开放权重人工智能安全合作
Base Labs 是 Baseten 于今年早些时候成立的研究团队，将与 Hugging Face 和 Goodfire 合作，开发开放权重模型的训练和监控方法。合作方计划公开发布相关方法。目前尚未公布具体技术成果或可量化的影响。
Nagda：现在正是加速人工智能发展的时刻
过去几周，多位人工智能领域的领导者呼吁放缓技术快速发展的步伐，但美国总统唐纳德·特朗普驳回了这些担忧。Rezilient Health创始人兼首席执行官Danish Nagda将讨论人工智能的未来，以及中国国家主席习近平即将访问白宫一事。来源：彭博社。
美司法部高官：美国正在评估针对人工智能安全的反垄断指南
根据美国副助理检察长史丹利·伍德沃德（Stanley Woodward）的说法，特朗普政府正考虑是否更新跨部门的网络安全反垄断指南，以应对人工智能所带来的一系列新安全威胁。
SpaceX 讨论从倒闭初创公司购买人工智能模型数据
据知情人士透露，SpaceX 曾在内部讨论从陷入困境或已经倒闭的初创公司购买客户和运营数据。据称，该公司希望以更低成本获取数据，用于改进其人工智能模型。目前尚不清楚相关收购是否会最终达成。
何小鹏：做机器人难度约为造车的20倍
小鹏汽车CEO何小鹏表示，机器人研发的难度约为造车的20倍。他称，公司自行掌握机器人的硬件、软件、设计和供应链，并已逐步开始量产。何小鹏预计，机器人的能力可能在今年第四季度至明年第二季度期间出现明显跃升。他还指出，市场上许多机器人能力演示经过后期剪辑。小鹏汽车当天还发布了G9L车型，搭载第二代VLA系统新版本及AI辅助驾驶功能。
OpenAI员工预计霍奇猜想将在纳维–斯托克斯方程解决后不久取得突破
据《The Information》记者斯蒂芬妮·帕拉佐洛报道，OpenAI员工预计，数学千禧年大奖难题之一的霍奇猜想，可能会在纳维–斯托克斯方程解决后相对较快地得到解决。不过，报道没有提供经过独立验证的数学突破证据。此前，OpenAI曾受到批评，数学家指责该公司试图把一项极其困难的数学问题相关成果归于自身。