有关人工智能安全的对话变得越来越令人难以置信
本周，两段有关人工智能安全的对话在网上走红，凸显出人们如今越来越难以辨别关于人工智能的信息究竟是事实还是虚构。
AI 新闻中心
AI 新闻中心 过去30天分析了 3814 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
人工智能生成的虚假情报报告险些引发战争
据CNN报道，美国军方曾因一份由人工智能生成的虚假情报报告，险些对一艘中国船只采取行动。这一事件凸显了在军事和国家安全决策中使用未经核实的人工智能生成信息所带来的风险。
AI 代理监控初创公司 Raindrop 获 CRV 领投 3500 万美元 A 轮融资
开发 AI 代理监控技术的初创公司 Raindrop 完成了由 CRV 领投的 3500 万美元 A 轮融资。其平台旨在检测 AI 代理产生的幻觉、工具误用等故障。
“工作垃圾”到处转发，曾大力拥抱 AI 的科技业高管开始踩刹车
Shopify 联合创始人兼 CEO 托比亚斯·吕特克和多邻国 CEO 路易斯·冯·安，开始修正过去鼓励大规模使用 AI 的说法。吕特克批评员工未经检查就提交 AI 生成的邮件和代码，并称这类把审核和返工负担转嫁给同事的产出为“垃圾手榴弹”。冯·安也承认，大规模使用 AI 后会发现其创造力仍不如员工，而且可能产生大量无用内容。BetterUp 实验室和斯坦福大学社交媒体实验室调查 962 名美国全
比亚迪第二代腾势 D9 OTA 更新，新增 AI 超级智能体“迪迪虾”
比亚迪近日为第二代腾势 D9 推送 OTA 更新，新增 AI 助手“迪迪虾”。该功能支持自定义智能搭子、语音交互、技能组合，以及记忆用户偏好和习惯。系统还接入音乐、视频、外卖和酒店预订等服务，并新增可规划多地点复杂路线的导航智能体。“迪迪虾”已连接多个生态合作伙伴及千问、豆包等大语言模型。
人工智能需要反垄断豁免，才能避免毁灭所有人吗？
在探讨商业未来的两集系列节目第一集中，Decoder采访了乔纳森·坎特。他曾在拜登政府任内担任美国司法部反垄断事务负责人，目前是圣路易斯华盛顿大学法学教授，以及卡内基梅隆大学技术政策教授。
AI将在2030年引发世界末日？英伟达黄仁勋：概率为零
英伟达首席执行官黄仁勋再次驳斥AI末日论，称2030年成为世界末日的概率为零。他表示，科技公司应尽可能快地推进人工智能发展，但绝不能将尚未准备就绪或不安全的产品推向市场。黄仁勋也反对针对AI行业出台新的专门监管法规。与此同时，包括Anthropic相关人士在内的研究人员和行业高管日益担忧安全协议不足，以及部分先进AI智能体在测试中表现出的意外破坏性行为。
MBA项目竞相适应人工智能时代
斯坦福大学商学院继续位居《彭博商业周刊》美国MBA排名榜首，并在薪酬、校友网络和创业精神等方面表现突出。与此同时，各商学院也在教学、案例研究和职业准备中试用人工智能，以确保毕业生具备雇主日益重视的技能。
璇玑动力发布中型智能四足机器人，最大可攀爬45度陡坡
璇玑动力发布面向工业应用的中型智能四足机器人 Hypertron-SW01。该产品搭载 AT-S240 关节电机模组，峰值扭矩为 240N·m，最大站立负载 120 公斤，最高行驶速度 8 米每秒。多模态融合感知系统和自研运动控制算法可实时识别路况并调整步态。机器人支持最大 45 度陡坡、单阶高度 25 厘米的楼梯，以及最高 100 厘米的越障。产品具备 IP67 防护等级，支持零下 20℃ 至
本周要闻：iOS 27 与 macOS Golden Gate 发布，Siri AI 开放候补名单
苹果已发布 iOS 27、iPadOS 27 和 macOS Golden Gate。新系统加入了 Siri AI 功能和独立的 Siri 应用，macOS 还首次支持 Visual Intelligence。用户必须加入候补名单才能使用 Siri AI，且仅限 iPhone 15 Pro 及更新机型。由于苹果与监管机构围绕《数字市场法》要求存在争议，该功能目前尚未在欧盟提供。苹果还发布了 iOS
人工智能监管之争尚未结束
本周初，人工智能领域的多位重要人士似乎至少暂时支持加强人工智能监管。周末，Anthropic首席执行官达里奥·阿莫代提出了一项放缓人工智能发展的三步计划，包括在人工智能实验室引入第三方评估人员、协调国内产业行动，以及推动可能达成的国际协议。
获安德里森·霍洛维茨支持的 Vals，欲成为 AI 基准测试的行业标准
Vals AI 希望在 AI 模型数量不断增加的背景下，成为更中立、更值得信赖的 AI 系统评测资源。不过，成为行业标准目前仍只是公司的目标，尚无证据表明其已经获得这一地位。
Dario主张放慢AI发展，Jensen则希望全速推进
英伟达首席执行官黄仁勋认为，人工智能安全问题应通过工程技术方案解决，而不是依靠新法律或限制行业发展速度。他的立场与主张放慢先进人工智能系统开发进程的Dario Amodei形成对比。
有人利用 Claude 制造潜在生物武器，真正的威胁更加深层
文章探讨了人工智能模型在生物学相关主题上提供有用信息所带来的风险。开放式语言模型可能尤其容易遭到滥用，而前沿模型则掌握涵盖日常生活和专业领域的广泛知识。不过，文章简介没有提供可验证的技术细节，证明生物武器确实已经被制造。因此，这篇文章更应被视为一篇具有警示性质的评论，而不是对已确认事件的报道。
宏碁董事长：放缓 AI 发展不太可能，技术进步只会越来越快
宏碁董事长陈俊圣和创始人施振荣认为，放缓先进人工智能的发展在现实中并不容易。陈俊圣表示，技术进步有其自身节奏，未来只会越来越快，因此重点不是全面延缓 AI 发展，而是在快速演进过程中建立有效的治理和管制机制。施振荣还指出，中国台湾地区现有产能不足，也难以支撑 AI 产业当前的发展速度。