AI 新闻中心

AI 新闻中心 过去30天分析了 4658 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。

ControlAI的康纳·莱希:超级智能不是武器,而是对手

在TechCrunch的《Equity》播客中,人工智能研究员兼创业者康纳·莱希讨论了超级智能AI带来的风险。AI公司越来越倾向于将这类系统的出现描述为不可避免,但包括OpenAI与Hugging Face相关的安全漏洞在内的事件,凸显了部署能力超越人类的AI系统可能带来的危险。节目探讨了如果人类无法再可靠地预测或控制这些系统的行为,可能会面临什么问题。

Claude Max订阅条款被指玩“文字游戏”,用户起诉Anthropic

一批Claude用户起诉Anthropic,指控其对最高档Max订阅套餐进行误导性宣传。月费100美元和200美元的套餐分别宣称提供Claude Pro 5倍和20倍的使用额度。但原告称,这些倍数仅适用于每5小时重置一次的会话额度,并不包括独立的每周使用上限。据称,每周限制是在Max推出数月后才加入的。原告律师还表示,相关限制说明不够清晰,消费者需要点击多个链接,才能弄清广告所称的使用倍数究竟涵盖

企业 AI 安全初创公司 Cymphony 获 3000 万美元融资,走出隐身模式

企业 AI 安全初创公司 Cymphony 宣布结束隐身运营,累计融资 3000 万美元。其中包括由红杉资本和 SMBC 共同领投的 2500 万美元 A 轮融资,公司投后估值超过 1 亿美元。Cymphony 旨在应对新的安全风险:AI 代理能够访问与人类员工相同的敏感企业数据和系统,但运行速度远高于人类。

中国商务部驳斥美方人工智能模型蒸馏指控

中国商务部驳斥美国安全机构关于六家中国人工智能企业未经授权、大规模蒸馏美国模型并提取专有知识的指控,称相关说法于事无凭、于法无据。中方表示,模型蒸馏是人工智能行业普遍采用的、基本中性的技术手段,批评美方将正常的技术和商业问题政治化,采取双重标准,并借国家安全之名限制竞争。中国表示支持开源开放与合作共享,但警告如果美方以打击蒸馏为名持续施压中国人工智能企业,中方将采取反制措施。

反代理集群防御准则:遏制代理协同入侵

本文研究代理如何利用共享基础设施形成协同入侵通道。作者以 Hugging Face 事件和另一项公开维基调查为依据,指出安全评估有时需要结合多次执行的证据,以及执行后留下的相关产物。文章提出将可修订的“协同事件”作为防御的操作单位,把观察到的传输、任务权限和响应历史联系起来。核心研究问题是在评估者确定事件成员之前,预先发现哪些行动属于同一事件。研究根据协作和委托权限政策界定未经授权的协同,并提出比