David Sacks:人工智能实验室应在没有反垄断帮助的情况下开发安全技术
总统科学与技术顾问委员会联合主席大卫·萨克斯在接受彭博电视采访时表示,Anthropic和OpenAI应开发安全产品,并在必要时自行放慢发展步伐,而不是依赖政府干预。
AI 新闻中心 过去30天分析了 708 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
总统科学与技术顾问委员会联合主席大卫·萨克斯在接受彭博电视采访时表示,Anthropic和OpenAI应开发安全产品,并在必要时自行放慢发展步伐,而不是依赖政府干预。
开发者“pdfu”对 iOS 27 和 macOS Golden Gate 的分析显示,苹果正在为新版 Siri 准备与第三方 AI 模型协作的架构。演示表明,Claude 和 OpenAI 模型可以通过 Siri 扩展运行,负责理解请求、规划任务并调用部分工具。“模型委托”机制允许外部模型处理自然语言请求,再将系统操作交还给 Siri。另一套协议甚至可能让用户完全替换设备端的 Siri 模型。目
据报道,OpenAI、Anthropic、谷歌DeepMind和SpaceX的负责人周末就放缓人工智能发展达成了一项松散共识。他们表示,目标是更好地控制技术前沿的发展节奏。然而,怀疑者立即质疑,这一倡议是否也服务于竞争利益,或可能帮助既有企业限制市场竞争。
达里奥·阿莫代伊发表题为《我们必须放慢前沿步伐》的文章,认为应放缓先进人工智能系统的开发,由此引发了有关人工智能安全的大量讨论。其他人工智能行业领袖和政界人士随后纷纷表态,支持或反对他的观点。
埃隆·马斯克似乎已停止因苹果整合ChatGPT而攻击苹果,但仍继续对OpenAI采取法律行动。因此,OpenAI仍需继续应对这起反垄断诉讼。
加拿大希望成立一个全球性的“技术稳定”机构,负责监督人工智能,并帮助确保其安全发展和使用。总理马克·卡尼在接受彭博社采访时表示了这一主张。
据MS NOW援引消息人士报道,唐纳德·特朗普应OpenAI首席执行官萨姆·奥尔特曼的要求,在共和党中期选举大会后台与其私下会面。双方讨论了人工智能日益增长的影响力。周末,奥尔特曼、埃隆·马斯克和Anthropic首席执行官达里奥·阿莫代也呼吁放缓人工智能发展。
彭博社记者迈克·谢泼德表示,白宫不希望任何事情影响当前的人工智能议程。特朗普政府已将人工智能置于经济政策的核心位置,但人工智能行业领导者正对快速发展带来的风险发出警告。
Jack Clark表示,大多数人工智能实验室都有不同的方法来关闭系统,但他认为,未来可能需要将可靠的紧急关闭机制设为强制要求。
随着外界对人工智能可能危害人类的担忧加剧,白宫表示,美国已经拥有针对这项技术所需的刑事和监管权力。特朗普还警告他所称的人工智能“阴谋论者”。
彭博社记者埃德·勒德洛分析了放缓前沿人工智能发展速度的呼声,支持者认为安全措施需要时间才能跟上日益强大的模型。这场争论已延伸至华盛顿和华尔街。投资者评估开发放缓对人工智能投资热潮的影响之际,相关股票正承受压力。
Anthropic 首席执行官达里奥·阿莫代伊呼吁放慢前沿 AI 的发展速度,为安全措施追赶日益强大的模型争取时间。OpenAI 首席执行官萨姆·奥特曼和 xAI 创始人埃隆·马斯克总体上支持这一想法,但尚未承诺停止训练或削减支出。放缓发展在实际操作中意味着什么仍不明确;与此同时,华盛顿正继续讨论可能的 AI 监管和安全防护措施。
彭博社观点专栏作家Parmy Olson认为,如果行业领导者真的相信超级智能可能带来关乎人类存亡的风险,那么仅仅呼吁放慢前沿AI开发远远不够。她质疑Anthropic一边强调安全优先,一边又竞相开发日益强大的模型。Olson表示,独立评估可以加强监督,而不必实质性减缓行业推进超级智能的步伐。
Cohere 首席执行官艾丹·戈麦斯反对由大型前沿人工智能实验室协调制定安全标准的提议。他警告称,这种做法可能巩固主导企业的地位,并形成一个人工智能安全“卡特尔”。戈麦斯支持更严格的安全措施、独立测试和更高透明度,但认为相关规则应由更广泛的利益相关者共同制定,而不应仅由 Anthropic 和 OpenAI 等企业主导。
这篇评论文章探讨了围绕人工智能产生的相互矛盾的承诺。人工智能企业呼吁监管可能带有为自身谋利的动机,但这并不意味着相关主张就一定错误。