Anthropic和OpenAI拟将安全评估人员嵌入实验室，他们真的能保持独立吗？
Anthropic和OpenAI计划让独立的人工智能安全评估人员进入其内部实验室。研究人员欢迎这种前所未有的接触机会，但警告称，有效监督需要透明度和真正的独立性。从长远来看，正式监管也将不可或缺。
AI 新闻中心
AI 新闻中心 过去一年分析了 952 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
华盛顿短期内不太可能监管人工智能
尽管外界对人工智能模型可能失控的担忧日益增加，美国近期通过相关立法的可能性仍然不高。白宫公开反对加强政府监管。
扎克伯格与黄仁勋在 AI 警告上与行业领袖产生分歧
扎克伯格与英伟达首席执行官黄仁勋对 AI 安全警告提出质疑，这与特朗普总统反对监管的立场相契合。彭博社记者迈克·谢泼德指出，特朗普在与中国国家主席习近平会面前，希望避免在 AI 领域设置任何监管障碍，以保持竞争优势。
Meta首席执行官就人工智能安全争议发表看法
彭博社记者埃德·勒德洛分析了马克·扎克伯格的主张：人工智能实验室应依靠独立评估机构和顾问，以确保模型安全。据报道，OpenAI正与投资者就新一轮融资进行早期洽谈，这可能使ChatGPT开发商的估值超过1.2万亿美元。报道还介绍了Impulse Space筹集3.08亿美元D轮追加融资的情况，以及太空机动经济的未来。
联合国各国就自主武器崛起展开博弈
联合国秘书长安东尼奥·古特雷斯警告称，世界在自主武器的开发和使用问题上，正危险地接近跨越道德红线。
评论：为人工智能提供反垄断豁免将助长串通
现行法律已经允许 Anthropic 和 OpenAI 在真正目标是人工智能安全的情况下开展合作。但更广泛的反垄断豁免可能鼓励企业串通，并削弱市场竞争。
美国法官要求X和xAI解释为何撤回对苹果的反垄断指控
负责审理埃隆·马斯克旗下公司起诉苹果和OpenAI反垄断案件的美国联邦法官，要求X和xAI解释为何撤回对苹果的指控。此前，OpenAI要求获取一项据称存在的协议的相关信息。法院希望审查与此案有关的任何和解协议。
美国防部首席技术官埃米尔·迈克尔反对政府持有人工智能公司股份及监管监督
美国国防部首席技术官埃米尔·迈克尔表示，特朗普政府不应持有人工智能公司的股份。据CNBC报道，他还表示反对对人工智能公司实施监管监督。
别再担心人工智能末日，真正的威胁已经出现
飞机、电梯和餐馆都受到确保安全运营的监管。许多专家认为，人工智能也应采取类似的传统安全措施。
首席执行官们究竟如何看待人工智能末日威胁
在华盛顿举行的一场私人聚会上，数十名商界领袖表示，人工智能带来的安全威胁确实存在，并敦促特朗普总统与中国国家主席习近平合作。报道没有提出新的技术发现或具体政策措施。
联合国秘书长古特雷斯：世界承受不起人工智能安全领域的恶性竞争
联合国秘书长安东尼奥·古特雷斯呼吁各国共同推进人工智能监管，并加强对相关技术的监督。他警告，地缘政治分歧可能诱使各方采取冒险行动，但世界承受不起在人工智能安全领域持续进行恶性竞争。古特雷斯表示，人工智能治理需要真正的国际合作、协调一致的全球行动以及更严格的安全措施。他将在联合国大会高级别周期间与各国领导人讨论人工智能风险，并提出应为人工智能设立的安全边界。今年早些时候，他还启动了国际人工智能独立科
JD·万斯称AI公司“求政府监管”，但没人真正愿意放慢AI竞赛
JD·万斯表示，主要AI公司希望政府监管前沿模型的开发。然而，这些公司迄今都没有通过推迟实际模型发布等方式，具体说明放慢开发速度究竟意味着什么。
英伟达、谷歌与 Emerald AI 成立 AI 能源管理联盟
Emerald AI、谷歌与英伟达共同成立 AI 能源管理联盟（AEMA），旨在推动能够根据电网状况动态调整用电量的灵活型 AI 数据中心。数据中心可通过迁移计算负载、释放储能、启用现场发电设备或响应电网紧急事件来调节用电。联盟将重点关注响应速度、持续时长、可预测性和紧急情况下的运行表现等可量化能力，而不是限定具体硬件或软件。成员计划制定统一的技术要求、性能指标和运行数据共享规则，并为能够作出可信
消息人士：OpenAI与Anthropic员工对阿莫代伊和奥尔特曼呼吁放缓前沿AI发展感到措手不及
消息人士称，OpenAI和Anthropic的员工对两家公司领导人达里奥·阿莫代伊和萨姆·奥尔特曼公开呼吁放缓前沿AI系统开发感到措手不及。一些员工还担心，让评估人员参与安全测试可能带来新的安全漏洞。据《金融时报》报道，两家公司正努力思考如何将放缓AI发展的言论转化为可执行的政策和实践。
OpenAI 奥尔特曼：AI 事故无法完全避免，应借鉴航空业建立公开上报机制
OpenAI 首席执行官萨姆·奥尔特曼在 Salesforce 的 Dreamforce 大会上表示，新兴技术出现一定程度的事故难以完全避免。企业应建立公开上报、调查事故并从中吸取教训的文化，可借鉴美国联邦航空管理局（FAA）和国家运输安全委员会（NTSB）的做法。奥尔特曼承认，外界对 AI 失控以及少数研发机构权力过度集中的担忧具有合理性。他表示，安全、监控和对齐工作必须以快于模型能力提升的速度