马特·卢卡斯和休·博纳维尔等演员呼吁制定AI声音克隆法
演员马特·卢卡斯、休·博纳维尔及其他表演者呼吁英国政府赋予每个人拥有自身声音的法律权利。该提议旨在限制未经授权使用人工智能复制人类声音。
AI 新闻中心
AI 新闻中心 过去30天分析了 1082 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
美国法官阻止五角大楼将Anthropic列入黑名单，裁定其指定“违法且毫无根据”
美国一名法官阻止五角大楼将Anthropic认定为供应链风险并列入黑名单，裁定这一指定“违法且毫无根据”。这项裁决是Claude开发商与美国军方围绕战场人工智能安全要求展开的高风险争端中的最新进展。
诉讼称马斯克旗下 xAI 使用儿童色情内容训练 Grok 模型
一项诉讼指控埃隆·马斯克旗下的人工智能公司 xAI，使用真实及人工智能生成的儿童性虐待内容训练 Grok 模型。相关指控目前正在司法程序中处理，并不代表法院已经作出最终认定。
Meta通过隐私修复和新营销活动应对“变态眼镜”名声
Meta将更新其AI智能眼镜，以修复一项隐私漏洞。此前，佩戴者遮住正面的LED指示灯后，仍可以继续录制。Meta增强现实业务副总裁亚历克斯·希梅尔在Threads上表示，今后如果录制过程中灯光被遮挡，相机将停止工作。该公司还将推出一项新的营销活动。
YouTube 创作者使用多莉·帕顿的虚假图片
多莉·帕顿去世几天后，这位乡村音乐偶像的人工智能生成图片开始在互联网大量传播。一些 YouTube 创作者正在使用并分享这些伪造内容。
AI代理正在入侵系统，这会促使美国和中国展开合作吗？
在本周的《Uncanny Valley》节目中，资深记者威尔·奈特谈论了他最近访问中国的经历，以及人工智能领域中美合作的未来。节目探讨了一个问题：能够攻击或入侵系统的AI代理所带来的安全风险，是否可能在地缘政治紧张局势持续的背景下，推动中美加强合作。
Anthropic认为AI代理应如何探索物理世界
Anthropic介绍了AI代理未来如何自动化科学研究和制造流程。该公司同时警告，将这类系统部署到物理世界可能带来安全、监督和控制方面的新风险。
Anthropic 发布模型硬件标准，帮助 AI 代理操作物理系统
Anthropic 发布了 Model Hardware Standard，这是一套帮助 AI 代理操作显微镜、量子计算硬件和机械臂等物理系统的框架。该公司表示，这项技术有望推动科学研究和制造业自动化，但同时指出，让 AI 控制实体设备也会带来新的安全风险。
谷歌、微软和OpenAI等100家公司呼吁加强网络防御
谷歌、微软、OpenAI以及约100家其他企业在一封联名信中警告，利用人工智能发动的网络攻击可能在几个月内变得更加复杂和先进。这些企业呼吁采取更有力的措施，提升数字防御能力。
埃隆·马斯克旗下SpaceXAI再次遭儿童性虐待幸存者起诉
诉讼称，描绘真实人物的儿童性虐待材料曾被用于训练该聊天机器人。
黄仁勋再次称英伟达已实现AGI——但这并没有多大意义
在英伟达的财报电话会上，首席执行官黄仁勋表示，公司已经实现了人工通用智能（AGI），这是科技行业多年来追逐的终极目标之一。但几乎就在随后，他又称这一里程碑“毫无意义”。由于业界尚未对AGI形成广泛认可的定义或客观测试标准，这一说法并不能证明英伟达确实在技术上实现了AGI。
人工智能用水究竟有多严重？
人工智能的水足迹正在扩大，但其环境影响在很大程度上取决于数据中心的位置以及所采用的冷却技术。
Claude、Codex 和 Hermes 将无主代码安装到企业网络中
研究人员在企业文档中发现了 227 条安装命令，这些命令指向似乎无人负责的代码。这一发现凸显了企业使用 AI 编程工具时面临的安全与治理风险。
谷歌启动加密环境下的双盲人工智能评估试点
Google DeepMind 正在试行一套系统，将对专有人工智能模型的外部评估置于加密保护的环境中进行。该方法旨在减少基准测试污染，即模型或开发者提前了解测试内容并针对测试进行调整，同时保护知识产权。此举的目标是提高外部独立评估人工智能模型性能的可信度。
企业 AI 的真正风险不是自主智能体，而是智能体之间的复杂性
这篇由 Gravitee 赞助的文章认为，企业部署相互连接的 AI 智能体群，可能比使用单个自主智能体带来更大的治理风险。智能体可以调用 API、触发其他智能体，并访问原本未针对机器决策设计的系统，从而形成难以追踪的决策和行动链。文章指出，权限不断扩大、责任归属不清，以及无法看清下游操作，是主要问题。文章建议为每个智能体建立独立身份、限制权限、指定人类负责人，并采用实时监控和能在执行前阻止违规调用