安全研究人员称利用 Claude 入侵 OpenAI
据《华尔街日报》报道,Hacktron 的三名独立安全研究人员称,他们使用 Anthropic 的 Claude Opus 4.8 和 5,在不到 72 小时内获得了 OpenAI 员工账户的访问权限。据称,他们还进入了 OpenAI 名为“Monorepo”的 GitHub 代码库。报道称,该代码库包含 OpenAI 重要的算法机密。现有信息仅来自研究人员的说法,尚未得到独立证实。
AI 新闻中心 过去24小时分析了 121 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
据《华尔街日报》报道,Hacktron 的三名独立安全研究人员称,他们使用 Anthropic 的 Claude Opus 4.8 和 5,在不到 72 小时内获得了 OpenAI 员工账户的访问权限。据称,他们还进入了 OpenAI 名为“Monorepo”的 GitHub 代码库。报道称,该代码库包含 OpenAI 重要的算法机密。现有信息仅来自研究人员的说法,尚未得到独立证实。
Muse 现已在 Mac 上推出。这款 AI 工具可以处理用户的文件和应用,并代表用户执行操作。
Anthropic首席执行官表示,人工智能的安全取决于能否理解AI系统如何“思考”。然而,迄今为止的研究证据令人担忧。
普华永道CEO保罗·格里格斯表示,人工智能应被视为企业转型工具,而不仅仅是技术升级。他称,受人工智能影响较大的企业正表现出更高的生产率和更强的招聘势头。随着员工结构变化,普华永道也在招聘更多工程师、数据科学家和机器学习专家。
加州州长加文·纽森签署行政命令,推动为人工智能建立安全防护措施。该举措针对这个被视为人工智能热潮中心的州,旨在加强对人工智能开发和使用的监管。
人工智能快速发展伴随着风险,但放慢或暂停开发同样可能带来高昂成本和不利影响。
《电力用户保护法案》在立法过程中取得重要进展。若法案获得通过,美国各州可能要求容量达到100兆瓦或以上的数据中心运营商承担为其设施供电所需的电网升级成本。
Mind 开发能够自主处理数据丢失防护任务的 AI 智能体。据消息人士透露,公司已在一轮 B 轮融资中筹集 7200 万美元,估值达到 3 亿美元。此次融资使 Mind 的累计融资额达到 1.12 亿美元。公司表示,产品开始销售仅 18 个月后,年化收入运行率就达到 1000 万美元。
据路透社报道,阿莫迪、奥尔特曼和马斯克此前警告,能力不断增强的 AI 系统可能带来风险,因此需要控制发展节奏,但欧洲企业和官员对此持怀疑态度。Mistral 等欧洲企业担心,美国头部公司可能借安全风险巩固市场地位,并推动不利于竞争对手的监管规定。Proton、Black Forest Labs 和 Hugging Face 的代表反对人为放慢 AI 开发,不过 Hugging Face CEO 克
长安汽车首席专家、长安天枢智能机器人公司总经理谭欢在中国汽车产业发展论坛上表示,AI正推动以具身智能为核心的基础设施革新。未来汽车可能成为能够自学习、自组织的“汽车机器人”。长安汽车计划先将座舱、中控、扶手等部件模块化,再拓展至物流、清洁、储能等领域的机器人。其长期构想包括用机器人制造和销售汽车、将机器人装上汽车,最终再用机器人制造其他机器人。目前这些内容主要属于战略愿景,尚未公布具体产品、时间表
文章分析了智能代理商业面临的支付挑战:人工智能代理可以自主完成购物和交易。业内人士认为,这可能成为零售业的下一项重大发展。不过,作者指出,新型商业技术往往建立在并非为其设计的支付基础设施之上,只有在系统出现故障时,相关问题才会暴露。文章描述没有提供足够的技术证据,证明谷歌已经彻底解决了这些问题。
Anthropic表示,Claude目前主导了公司26%的模型研究与开发工作,这一比例从2月的零增长到8月的约四分之一。公司约90%的研发工作都在Claude的协作下完成,但仍由人类进行密切监督。Claude尚未实现完全自主运行。Anthropic称,公开这些指标有助于评估AI距离“递归式自我改进”还有多远,即AI系统参与构建自身后继模型的能力。公司呼吁其他开发者采用公开方法,定期发布可比较的数据
谷歌正在扩大其人工智能与经济团队,新增学术顾问、研究员项目成员和内部核心研究人员。公告未披露具体项目或研究成果。
特朗普政府声称希望人工智能模型不受意识形态偏见的影响,却同时向开发者施压,要求模型反映总统的世界观。
由多家 AI 监督组织组成的论坛呼吁 Anthropic、OpenAI 等 AI 实验室,确保外部评估人员能够独立、透明地工作,并免受企业干预。由杰弗里·辛顿、斯图尔特·罗素等专家联署的公开信要求,第三方评估人员应获得与内部评估人员同等的系统、数据、工具和场所访问权限,能够直接与公司董事会沟通,并在不受企业过滤的情况下公布评估结果。论坛还要求保护评估人员免受因工作遭到的报复,并引入具有不同专业背景