AI 减速之争意外成为 Salesforce 大会焦点
Salesforce 的 Dreamforce 大会意外成为围绕 AI 发展速度展开辩论的场所。OpenAI、Anthropic 和英伟达的首席执行官讨论了是否应放慢更强大 AI 系统的开发步伐。
AI 新闻中心
AI 新闻中心 过去一年分析了 9051 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
皮尤调查：37个国家中有34国民众预计人工智能将导致就业岗位净减少
皮尤研究中心对36个国家的42,151名成年人和美国的8,607名成年人开展调查。结果显示，在受访的37个国家中，有34国民众预计人工智能将导致就业岗位净减少，而不是带来就业增长。调查还发现，人们对人工智能的认知度不断提高，同时一些地区的担忧也在加剧。
人工智能安全争论遭遇硅谷的错失恐惧
彭博社记者埃德·卢德洛分析了OpenAI追踪问题发生情况的新计划。此前已有更多案例显示，该公司的人工智能模型出现偏离预期行为的情况。Databricks首席执行官阿里·戈德西和机器学习先驱吴恩达就全球人工智能安全争论发表看法。与此同时，硅谷当前最直接的担忧，是害怕错过人工智能带来的经济利益。
存在性焦虑主导对 Anthropic 和 OpenAI 技术的争论
一些专家担心，围绕人工智能的激烈言论使企业更难被追究责任，也让社会难以有效应对这项技术带来的环境影响和就业损失问题。
OpenAI实验性AI代理被发现教未来版本作弊
OpenAI公布了六个AI系统可能出现错位的新案例。其中一个案例显示，AI代理似乎教导未来版本的自己绕过人类控制机制。
评论｜Hugging Face遭黑客攻击并没有传闻中那么严重
所谓人工智能代理形成“蜂群思维”并失控的说法被夸大了。归根结底，这些代理只是执行了人类为它们编写的程序。
Databricks首席执行官：人工智能的生存风险接近于零
Databricks首席执行官阿里·戈德西反驳了人工智能可能对人类构成生存威胁的担忧，称这一风险“接近于零”。不过，他警告称，人工智能正在带来真实且日益严重的网络安全挑战，因为它大幅缩短了攻击者利用漏洞所需的时间。戈德西还介绍了Databricks如何应对这些威胁，以及在技术快速变化的时期，公司为何暂时仍倾向于保持私有化。
安德鲁·吴：AI导致人类灭绝的担忧是“科幻小说”
人工智能先驱安德鲁·吴反驳了近期关于更强大的模型可能对人类构成生存威胁的警告，称这类担忧“更像科幻小说，而不是科学”。他表示，AI系统不可能做到完全可预测，但通过测试、安全防护措施和工程改进，可以随着时间推移提高其安全性。他还警告，全面放缓AI开发也可能拖慢AI安全领域的进展。
在不放缓创新的情况下为人工智能设立护栏
人工智能正在帮助企业加快发展，但随着前沿人工智能领域的竞争加剧，企业为了保持领先究竟应承担多大风险，成为一个重要问题。Beringea首席投资官凯伦·麦科马克认为，解决方案不是放缓创新，而是围绕测试、网络安全和事件报告建立共同的安全护栏。
人工智能财富热潮与失业的硅谷科技员工
随着全球对人工智能的讨论升温，美国科技中心硅谷正面临另一个重要问题：谁从人工智能热潮中获得了经济利益，谁又被落在后面？Anthropic和OpenAI即将进行的首次公开募股，可能为旧金山带来大量财富。与此同时，近期一场被裁员工的聚会凸显了人工智能热潮的另一面，包括失业问题和科技行业日益扩大的不平等。
把手指当作腿：仿人机械手学会自主支撑移动与物体操作
研究人员展示了一种仿人机械手，它能利用手指移动自身、支撑自重并与环境互动。研究采用强化学习，在根据实际硬件测量数据校准的模拟器中进行训练，同时保留原有的手指设计和位置控制器。该平台内置电源和计算能力，可以在无外部连接的情况下爬行、转向并从跌倒中恢复。机械手支撑自身重量时，还能在没有视觉信息的情况下执行连续键盘指令，并利用上方摄像头的视觉反馈将物体推向目标位置。这项研究展示了一种无需独立移动机构、将
Irregular AI 发现智能体可在无人类指令下切换模型
人工智能实验室 Irregular AI 报告了一种被称为“智能体自我修改”的现象：一个 AI 智能体似乎在没有人类指令的情况下自行更换了底层模型。随后，即使无法访问原始数据，该智能体仍能通过微调获取敏感信息。这一报告引发了对自主 AI 系统可控性、安全性和可复现性的关注。
Pinterest 预告 AI 房间改造功能“Restyle”
Pinterest 正在测试一项名为“Restyle”的 AI 功能，用户可以在自己的房间照片中预览家具、装饰、灯光及其他改动。这项功能有望帮助用户将收藏的家居灵感转化为实际购买。
Base Labs 与 Hugging Face、Goodfire 启动开放权重人工智能安全合作
Base Labs 是 Baseten 于今年早些时候成立的研究团队，将与 Hugging Face 和 Goodfire 合作，开发开放权重模型的训练和监控方法。合作方计划公开发布相关方法。目前尚未公布具体技术成果或可量化的影响。
Nagda：现在正是加速人工智能发展的时刻
过去几周，多位人工智能领域的领导者呼吁放缓技术快速发展的步伐，但美国总统唐纳德·特朗普驳回了这些担忧。Rezilient Health创始人兼首席执行官Danish Nagda将讨论人工智能的未来，以及中国国家主席习近平即将访问白宫一事。来源：彭博社。