纳特·索雷斯谈人工智能如何真的可能毁灭人类
自 Hugging Face 事件以来,人工智能带来生存风险的担忧逐渐进入公众视野。纳特·索雷斯和埃利泽·尤德考斯基在 2025 年出版的《If Anyone Builds It, Everyone Dies》中认为,开发超智能人工智能可能导致人类灭亡。作为机器智能研究所所长,索雷斯在访谈中解释了他为何认为超智能人工智能不可能被可靠地对齐,以及这类技术可能如何失控。
AI 新闻中心 过去24小时分析了 171 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
自 Hugging Face 事件以来,人工智能带来生存风险的担忧逐渐进入公众视野。纳特·索雷斯和埃利泽·尤德考斯基在 2025 年出版的《If Anyone Builds It, Everyone Dies》中认为,开发超智能人工智能可能导致人类灭亡。作为机器智能研究所所长,索雷斯在访谈中解释了他为何认为超智能人工智能不可能被可靠地对齐,以及这类技术可能如何失控。
这项研究在多模态语言模型中发现了一个名为 S-Space 的线性表示子空间。物体 token 的表示沿水平、垂直和距离轴编码连续位置。研究人员表明,这一内部空间工作区能够保存感知到的位置、支持空间判断,并在视角变化时进行转换。模型虽能形成有用的空间表示,但在完成跨视角可靠推理所需的转换方面仍存在不足。
Arena发布了2026年10月5日至11日的AI模型排行榜。Claude Opus 5.5 Max首次进入智能体榜便排名第一,其他Claude模型也在多个榜单中位居前列。Kimi K3 Max、Qwen 3.8 Max等国产模型整体保持在中上游。榜单依据匿名用户投票计算,反映用户偏好,并非对模型绝对能力的测试。
Indeed Hiring Lab数据显示,自2025年2月Claude Code发布以来,美国软件开发职位招聘增长近15%,而整体劳动力市场招聘量下降7%。增长主要集中在高级职位和AI相关岗位。与此同时,斯坦福大学《AI指数》估计,处于职业生涯早期的软件开发者就业人数下降约20%。企业仍需要开发人员监督AI辅助编程、改进产品,并将技术整合到日常运营中。美国劳工统计局预计,2025年至2035年软
马斯克建议把信用卡照片发给 Grok。连他自己的社群成员也在嘲笑这一提议。
推测解码通过轻量级草稿模型提出多个词元,再由目标模型并行验证,从而加速大语言模型推理。基于扩散的草稿模型可以同时预测多个未来位置,但无法利用同一草稿块内词元之间的依赖关系。DCOCO(DFlash Contextual Corrector)通过保留多个候选词元并并行评估其上下文兼容性来解决这一问题。在四种验证模型架构和十项基准测试中,DCOCO在所有评估配置下都取得最高平均吞吐量,相比常规解码最高
这项研究比较了在线策略蒸馏(OPD)与 Semi-OPD。后者使用初始学生模型生成的离线 rollout 进行训练。在涵盖 15 亿至 2350 亿参数的 17 组教师—学生模型中,Semi-OPD 有 14 组表现更好,准确率最高提升 13.6%,训练速度最高提升至 11.4 倍。OPD 主要在教师与学生的输出已经高度一致时更有优势。研究结果表明,应根据两者输出的匹配程度选择蒸馏方法。
Dex-One2Many是一种从真实环境迁移到仿真、再迁回真实环境的方法,可从单个人类视频中学习具有泛化能力的灵巧操作策略。序列场景图为强化学习提供引导,支持生成多样化的重置状态并提供密集奖励,无需精确模仿视频中的动作。该系统完全在仿真环境中训练,随后无需额外调整即可迁移到真实的多指机械手。在五项工具使用与操作任务中,相比基线方法,它在已见配置下提升6.5%,在未见场景下提升71%。
ThinkDrag是一种通过拖拽点位进行图像编辑的多模态框架。不同于主要将拖拽操作解释为几何位移的现有方法,ThinkDrag能够将点约束与物体和场景层面的语义变换联系起来。系统还可以在生成图像前输出明确的推理过程,从而提升对模糊编辑意图的可解释性。研究团队提出了拖拽端点标记,用于提供图像空间中的对应信号,并构建了包含语义拖拽变换和推理过程的监督数据集,以及面向复杂拖拽编辑场景的DragBench
Firmus Grid Ltd. 首次公开募股失败,正在对蓬勃发展的亚洲股票发行市场产生影响。投资者开始更加谨慎地评估人工智能基础设施交易,尤其是那些高度依赖未来盈利的项目。
腾讯控股周一向固定收益投资者表示,公司计划发行约50亿美元债券,资金将主要用于人工智能相关资本支出。这表明这家中国科技公司正进一步加大对人工智能领域的投入。
该研究考察大型语言模型进行多语言数学推理时,推理“骨架”所使用的语言如何影响表现。研究人员提出语言感知骨架探索框架(LASEF),并在不同模型规模、基准测试和语言上进行评估。英语骨架平均表现出小幅优势,尤其体现在较小模型和低资源语言上。然而,经过统计校正后,具有显著性的语言层面提升很少,英语也并非始终是最佳选择。相关影响取决于评估方法和基准测试,不能仅由生成质量解释。研究人员已公开发布所有资源。
据新浪科技报道,唯品会近期分阶段上线自研AI助手“AI小唯”。该助手由唯品会大模型团队开发,支持文字和语音对话,可帮助用户查找商品、查询活动和优惠。唯品会还在招聘大模型后训练、SFT数据等岗位,以扩充相关团队。其开发重点包括购物意图识别、商品理解、推荐生成和多轮对话等能力。此外,唯品会正在灰度测试AI商品对比工具。用户可以勾选购物车中的商品进行对比,也可以通过“AI小唯”选择不同商品进行比较。此前
国际货币基金组织总裁警告称,人工智能可能冲击劳动力市场和税收体系。她呼吁政策制定者重新思考教育,并立即采取行动,帮助社会适应变化。
AI 先驱、AMI Labs 创始人兼董事长杨立昆在首尔表示,AI 的下一次突破不会来自大语言模型,而会来自能够理解和预测物理世界的系统。他主张开发“世界模型”,让 AI 学习物理规律与因果关系,从而预测行动可能带来的结果,并与周围环境互动。杨立昆认为,现有语言模型的局限表明,机器处理语言相对容易,理解现实世界则困难得多。