谷歌推出全球首个加密环境下的 AI 模型双盲评估方案
谷歌推出了面向前沿专有 AI 模型的双盲评估方法。外部评估机构可在加密黑箱环境中测试模型，但无法查看模型权重；谷歌也无法获取评估方的测试提示词。该方案旨在防止模型提前接触测试数据，从而避免“基准污染”。谷歌与新加坡人工智能安全研究所、OpenMined、AVERI 及 MLCommons 合作，利用机密计算对 Gemini Flash Lite 进行了测试。这项试点有望提升评估的独立性和可信度，尤
AI 新闻中心
AI 新闻中心 过去30天分析了 1083 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
当 AI 智能体自主行动时，治理必须落实在数据层
这篇由 EDB 赞助的文章认为，自主型 AI 智能体不应仅依靠模型指令、政策或事后监控进行管理。访问控制、数据脱敏、智能体身份、声明用途和审计日志都应直接在数据层执行。智能体应被视为独立主体，并在会话开始时绑定其用途，使策略引擎能够像评估用户角色和属性一样评估智能体的行为。该方案利用现有数据库控制机制，包括基于角色和属性的访问控制、行级与列级安全、策略即代码以及数据血缘追踪。文章同时推广 EDB
俄语勒索软件团伙利用SpaceX的Cursor人工智能编程助手，入侵至少七家公司
据Gambit Security称，讲俄语的勒索软件团伙Aur0ra在4月8日至5月21日期间，利用SpaceX的人工智能编程助手Cursor协助入侵至少七家公司。据报道，一家比利时化工企业是其目标之一。这起事件凸显了人工智能编程工具可能被网络犯罪分子滥用。
英国完成全球首例 AI 实时辅助脑外科手术
伦敦大学学院医院外科医生利用专门开发的 AI 系统，协助为一名 48 岁患者切除良性垂体肿瘤。手术期间，系统实时分析内镜画面、追踪手术器械位置，并标出重要血管和神经可能所在的区域，帮助医生避开肿瘤附近的关键结构。AI 并未接管手术，所有判断和操作仍由外科医生完成。研究团队使用数百段垂体肿瘤手术视频训练和评估该系统，目前正准备开展更大规模的临床试验。患者表示，手术后周边视野明显改善，术前的疲劳、眩晕
人类审查人员需要支持，以防止人工智能模型失控
人工智能实验室员工需要获得高层管理者的支持，才能有效监督这项技术，并帮助防止模型出现不可预测的行为。
AI 网红试图影响巴西总统大选
合成创作者正围绕共同的政治观点建立社群，可能进一步影响巴西的公共舆论和选举动态。
女性正为人工智能的风险敲响警钟，领导者应当倾听
许多女性对人工智能的担忧并非源于对变化的恐惧，而是认识到这项技术可能带来分配不均的风险。演员兼制片人瑞茜·威瑟斯彭近日表示，女性参与人工智能非常重要，因为变化已经到来，此言随后引发争议。一条获得广泛支持的回应指出，把人工智能视为不可避免的趋势，可能削弱人们的批判性思维，并促使人们接受可能造成伤害的状况。
OpenAI CEO 奥尔特曼承认：公众反感数据中心
OpenAI CEO 萨姆·奥尔特曼承认，目前公众对人工智能的态度较为消极，数据中心尤其受到抵触。居民主要担忧数据中心的高耗电量和用水量，以及大型设施建在社区附近。OpenAI 已开始通过社区回馈措施回应争议，例如向其建设数据中心的俄亥俄州、佐治亚州和密歇根州符合条件的学生提供 Codex 使用额度。
看到含有AI网红或演员的广告？它可能违法。
根据纽约州一项新法律，有关广告未披露使用人工智能的投诉已提交给纽约州总检察长。不过，美国联邦贸易委员会（FTC）最近表示，纽约州可能无权执行这项法律。
比尔·盖茨：我可能是第一个说“AI 太疯狂了”的人
比尔·盖茨在最新博客文章和多次采访中，警告人工智能可能带来的影响。在多年保持高度乐观后，他如今认为，AI 可能消灭大量就业岗位、加剧不平等，并对经济造成严重冲击。他还将虚假信息扩散、心理健康问题恶化，以及利用 AI 设计生物武器的可能性列为风险。盖茨表示，如果失业问题处理不当，社会可能广泛反弹并抵制这项技术。他还声称，部分科技行业领导者私下了解 AI 的风险及其快速发展，但由于涉及巨额资金而不愿公
央视曝光利用AI生成男性形象、专骗中老年女性的相亲骗局
中国成都警方捣毁了一个利用AI生成男性资料和虚拟形象，诱骗中老年女性购买虚假婚介服务的诈骗团伙。受害者缴纳服务费后，与其聊天的并非所谓的相亲对象，而是公司员工。团伙还使用变声器、直播和预先编写的话术来获取信任。警方已抓获28名犯罪嫌疑人。调查显示，该团伙在不到一年内涉案金额超过100万元，约50人遭受财产损失。专家建议短视频平台加强AI内容识别、风险预警和分级处置，并及时将疑似诈骗线索移交有关部门
行人头脚错乱、扫帚从垃圾袋钻出：官方确认公益广告由AI生成并撤下
山西临汾一处宣传栏的公益广告因画面出现多处离奇错误引发关注：行人的头部和脚部方向错乱，环卫工手中的垃圾袋里还像是钻出了一把扫帚。当地政府确认，涉事广告由合作广告公司使用AI生成，已于8月25日晚撤下并更换。此前审核主要检查文字标语，遗漏了画面内容。当地正对其他户外广告进行排查。该事件显示，生成式图像模型虽然能够组合图像元素和风格，却无法可靠理解人体结构、物理常识以及物体之间的合理关系，因此生成内容
Anthropic公布外部研究人员开展Claude使用研究的试点结果
Anthropic公布了一项试点计划的研究结果，允许三名外部研究人员访问有关Claude实际使用情况的汇总数据。其中一项研究发现，用户会将高风险或高重要性的任务交给人工智能处理。这些结果有助于了解Claude的实际使用模式，但并未证明人工智能决策的质量，也未证明将重大任务交给人工智能是安全的。
美国联邦法官敦促最高法院重新审视人工智能时代的儿童性虐待材料判例
一名联邦法官在美国联邦上诉法院的一项裁决中，敦促最高法院重新审视有关儿童性虐待材料（CSAM）的法律先例。这些先例确立于人工智能取得近期进展之前。不过，该裁决仅适用于特定图像，并未直接改变最高法院现有的判例。
北京开出首张 AIGC 商业秘密行政罚单，处以 10 万元罚款
北京市市场监管部门对一起 AIGC 领域商业秘密案件处以 10 万元罚款，这是北京市首例相关行政处罚。一名前员工在职期间擅自复制并破解原公司的内部 AI 软件，离职后创办竞争企业并继续使用该软件承接业务。该软件用于短剧多语种翻译和配音。执法人员通过电子数据取证、软件安装痕迹、数据库访问日志及项目文件，完整还原了复制、破解和跨公司使用的过程。此案首次在行政执法层面确认，未公开的 AIGC 商业软件可