AI 新闻中心

AI 新闻中心 过去一年分析了 952 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。

消息人士称:AI辅助报告捏造中国船只运载核武器部件,美国“险些发动战争”

据CNN报道,一份由AI辅助生成的情报报告险些引发危险的军事升级。今年春季,在与伊朗的战争期间,这份报告曾在美国军方内部流传,并错误声称一艘位于中东的中国船只正在运输核武器部件。这一事件凸显出,在涉及国家安全的重大决策中,依赖不准确或由AI虚构的信息可能带来严重风险。

全球人工智能安全取决于中美合作,但两国都把对方视为问题所在

美国和中国面临越来越大的压力,需要在人工智能治理方面展开合作,但双方都对彼此的人工智能战略持强烈怀疑态度。这个议题预计将列入唐纳德·特朗普与中国领导人习近平在华盛顿举行的会晤议程。美国科技界人士表示,要避免失控人工智能带来的最严重风险,至少需要与中国进行一定程度的合作。然而,两国同时也在争夺人工智能领域的决定性优势,特朗普则警告称,对该技术进行监管可能会让中国受益。正式协议或许难以达成,但承认人工

Automattic的33小时政变:人工智能实验室能自我监管吗?

Anthropic一名研究人员警告人工智能可能带来灾难性风险、震动行业一周后,该公司首席执行官达里奥·阿莫代提出了控制前沿人工智能发展速度的计划。该方案依靠独立的安全评估机构,以及民主国家人工智能实验室之间的协调合作。方案已获得部分行业支持,但也遭到英伟达首席执行官黄仁勋的尖锐反对。

达里奥·阿莫代及其他人工智能领袖希望放缓前沿AI发展,但该如何实现?

Anthropic一名研究人员警告人工智能可能带来灾难性后果,引发行业震动一周后,该公司首席执行官达里奥·阿莫代提出了放缓并协调前沿AI系统开发的计划。该提议依赖独立的安全评估机构,以及民主国家人工智能实验室之间的合作。部分业内人士已经表示支持,但英伟达首席执行官黄仁勋也提出了尖锐批评。

美国 AI 巨头提议放慢开发,欧洲企业和政界并不认同

据路透社报道,阿莫迪、奥尔特曼和马斯克此前警告,能力不断增强的 AI 系统可能带来风险,因此需要控制发展节奏,但欧洲企业和官员对此持怀疑态度。Mistral 等欧洲企业担心,美国头部公司可能借安全风险巩固市场地位,并推动不利于竞争对手的监管规定。Proton、Black Forest Labs 和 Hugging Face 的代表反对人为放慢 AI 开发,不过 Hugging Face CEO 克

“AI 教父”辛顿支持要求独立第三方评估的公开信

由多家 AI 监督组织组成的论坛呼吁 Anthropic、OpenAI 等 AI 实验室,确保外部评估人员能够独立、透明地工作,并免受企业干预。由杰弗里·辛顿、斯图尔特·罗素等专家联署的公开信要求,第三方评估人员应获得与内部评估人员同等的系统、数据、工具和场所访问权限,能够直接与公司董事会沟通,并在不受企业过滤的情况下公布评估结果。论坛还要求保护评估人员免受因工作遭到的报复,并引入具有不同专业背景

北京发布“词元经济十条”:推动高标准建设词元工厂

北京市经济和信息化主管部门发布了2026年至2028年词元经济发展行动方案。方案将制定词元工厂分级评价标准,涵盖模型适配数量、词元吞吐速度、首词元延迟、缓存命中率和能源利用效率等指标。北京还将支持基础模型、推理专用芯片、模型轻量化和边缘部署,建立词元质量评测体系以及具备统一接口、计量和结算功能的词元分发平台。同时,方案鼓励发展通用和垂直行业智能体,推进安全软件、海外服务、数据产品、算力金融工具和工