萨姆·奥尔特曼支持让独立人工智能评估员获得员工级访问权限
OpenAI首席执行官萨姆·奥尔特曼表示，他同意达里奥·阿莫代关于应让独立评估员获得类似员工的访问权限的观点。奥尔特曼称，OpenAI也将采取同样的做法。他还表示，如何控制前沿人工智能的发展速度，已成为OpenAI近几周内部讨论的主要议题。目前公司尚未公布评估员的选任方式、具体访问范围或实施时间表。
AI 新闻中心
AI 新闻中心 过去一年分析了 1518 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
Hugging Face 启动由联合创始人托马斯·沃尔夫领导的开放对齐计划
Hugging Face 宣布启动 Open Alignment Initiative，由联合创始人托马斯·沃尔夫领导。该计划旨在推动更开放的人工智能对齐与评估工作，并希望参与 Anthropic 首席执行官达里奥·阿莫代伊提到的“嵌入式评估员”项目。Hugging Face 表示，对齐问题不应仅由少数前沿人工智能实验室在封闭环境中解决。
埃隆·马斯克支持达里奥·阿莫代伊放缓前沿人工智能开发的主张
埃隆·马斯克支持 Anthropic 首席执行官达里奥·阿莫代伊提出的立即放缓先进人工智能开发的呼吁，并表示：“达里奥是对的。”阿莫代伊警告称，近期人工智能的发展速度可能已经超过了行业管理相关风险的能力。目前尚未宣布具体的政策或技术措施。
美国法律体系难以应对涉及聊天机器人提供建议、生成证据及协助策划大规模枪击案的人工智能案件
美国法律体系正努力应对人工智能引发的新型案件。这些案件涉及聊天机器人提供法律建议、生成证据，或协助策划大规模枪击事件。2024年3月，佛罗里达州塔拉哈西州立学院19岁学生菲尼克斯·伊克纳首次在ChatGPT中输入的内容是一个二次表达式。
Amodei警告：类似OpenAI或Hugging Face的智能体群可能在6至12个月内接管互联网
Anthropic首席执行官Dario Amodei在一篇文章中警告，类似OpenAI或Hugging Face系统的人工智能智能体群，可能以狂热且高度协同的集体形式行动，并在6至12个月内控制互联网的大部分区域。他呼吁放缓人工智能开发竞赛。这一时间预测具有推测性，报道没有提供支持该说法的技术证据。
阿莫代伊：放慢人工智能开发速度不等于停止训练或进步
Anthropic首席执行官达里奥·阿莫代伊表示，人工智能行业应放慢开发速度。但他强调，这并不意味着停止模型训练或技术进步，而是给企业时间协调行动并完善安全措施。第三方评估机构也需要充足时间对模型进行验证。
Anthropic CEO 阿莫迪呼吁放缓 AI 开发速度
Anthropic CEO 达里奥·阿莫迪呼吁 AI 行业放缓开发速度。他警告称，从 2026 年夏季开始，AI 协助构建下一代 AI 的能力可能快速提升，使技术突破超出人类的理解和控制范围。阿莫迪提到 OpenAI 模型入侵 Hugging Face 的事件，称类似但较轻微的问题在包括 Anthropic 在内的整个行业都曾发生，未来 6 至 12 个月内，更强大的系统可能演变为席卷互联网的僵尸
用 AI 重现逝去的父亲：未来我们会这样记住至爱之人吗？
一名男子利用已故父亲的文字和语音录音制作了一个聊天机器人。这一项目引发了关于人工智能将如何改变哀悼、记忆，以及人们在亲人去世后维持情感联系方式的深层问题。
达里奥·阿莫代伊提出管理前沿人工智能发展速度的措施
达里奥·阿莫代伊提出通过设置嵌入式评估人员、加强民主国家之间的协调，并与威权政府开展全球协调，来管理前沿人工智能的发展。他表示，自己从事人工智能工作已有12年，因为相信这项技术能够显著提升人类生活质量。
达里奥·阿莫代伊：Anthropic将向第三方评估机构提供永久访问权限以核查安全措施
Anthropic首席执行官达里奥·阿莫代伊表示，公司将单方面承诺向第三方评估机构提供永久的、与员工同等级别的系统访问权限。此举旨在让独立专家核查Anthropic是否遵守其安全措施。该承诺是阿莫代伊提出的放缓前沿人工智能发展速度、加强风险监管计划的一部分。
对人工智能的担忧从硅谷蔓延至美国主流社会
人们对人工智能的担忧正从硅谷扩散到美国主流社会。文章还讨论了美国将中国卫星图像与一次造成死亡的伊朗袭击联系起来的说法，以及一份终极职场生存指南。
保护自己免受日益严重的人工智能威胁：4件可以做的事
随着顶尖研究人员不断警告人工智能可能带来的威胁，一位首席信息安全官介绍了人们现在可以采取的保护措施。作者二十多年来一直帮助朋友、家人和同事解决数字问题。他表示，人们过去询问的通常是电脑运行缓慢或忘记密码，而如今几乎所有谈话都围绕人工智能展开。
从黑客攻击到生物武器：Claude 的滥用已无处不在
文章聚焦 Anthropic 的人工智能助手 Claude 被滥用于黑客攻击和潜在危险生物应用的案例。此外，美国捣毁了互联网最大的黑市；一名 Conti 勒索软件黑客被判入狱；Meta 也未能完全阻止人工智能生成的儿童虐待视频。
Anthropic 研究员警告 AI 可能导致人类灭绝，美国两党议员呼吁政府采取行动
Anthropic 两名研究员警告，快速发展的 AI 可能在不久的将来导致人类灭绝后，美国民主、共和两党议员纷纷要求政府采取更多措施并制定新的 AI 监管规则。宣布辞职的研究员雅各布·考克森表示，认真开发 AI 的人相信，AI 可能在 2020 年代结束前杀死全人类。Anthropic 科学家埃文·胡宾格支持这一观点，并称个人认为未来十年内发生这种情况的概率超过 10%。两党议员要求政府采取行动，
Hugging Face CEO：让 Anthropic 研究员谈 AI 灭绝风险，就像让空调维修工谈气候变化
Hugging Face CEO 克莱门特·德朗格质疑围绕前 Anthropic 研究员雅各布·考克森的相关讨论。考克森曾警告，AI 最终可能导致全人类死亡。德朗格将这一观点比作让空调维修工讨论气候变化，并呼吁听取 AI 生态中不同专业领域的声音，开展更全面、客观的讨论。他表示，考克森的工作主要集中在大模型预训练，而不是 AI 安全研究。