消息人士称：美国参议院谈判代表讨论对人工智能企业设定注意义务
据路透社报道，美国参议院谈判代表正在讨论一项法案，要求科技企业对设计安全的人工智能产品承担责任。该法案还可能允许政府阻止被认定为不安全的模型发布。目前谈判仍在进行中，法案尚未获得通过或正式生效。
AI 新闻中心
AI 新闻中心 过去30天分析了 707 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
不要盲目信任人工智能公司处理你的内容，应当核查其使用方式
人工智能公司已经给出版商和版权方提供了充分的怀疑理由。与其全面禁止使用，不如建立机制监控内容的实际用途。索尼音乐和华纳起诉Anthropic，指控其未经许可复制目录中的音乐和歌词，用于训练人工智能模型。继环球音乐今年1月提起类似诉讼后，Anthropic如今已成为三大音乐出版商共同采取法律行动的对象。
律师因在谋杀案中引用AI编造的证人被罚款5000美元
新墨西哥州最高法院对律师斯蒂芬·阿伦斯处以5000美元罚款，并认定其藐视法庭。阿伦斯在为客户的谋杀罪判决提出上诉时，引用了由人工智能编造的证人和虚假的警方证词。法院表示，他没有核实文件中的事实陈述和法律主张。
Y Combinator 的 Garry Tan 呼吁美国开放权重 AI 实验室也蒸馏前沿模型
Garry Tan 认为，美国开放权重 AI 实验室也应蒸馏前沿模型。他表示，前沿模型本身也是利用公开的人类知识训练的，因此，获得高能力 AI 的机会应被视为一种公共产品。
评论：纽约市学校禁用人工智能做得太过了
人工智能辅导工具能够根据学生的个人需求进行调整。这篇评论因此批评纽约市学校的人工智能禁令，并声称教师工会反对这类系统。
前奥巴马政府官员称应轰炸中国数据中心以阻止AGI开发
据称，一名前奥巴马政府官员建议轰炸中国数据中心，以阻止中国开发通用人工智能（AGI）。这一措辞激烈的说法批评了一种明显的矛盾：一方面阻止中国获得相关AI工具，另一方面美国自身也在开发类似技术。
Meta因用于训练人工智能和人脸识别系统的数据被起诉
一项拟议集体诉讼指控Meta非法收集Facebook和Instagram用户的照片。诉讼称，这些照片被用于训练人工智能图像生成模型，并开发尚未发布的“NameTag”人脸识别功能。
Apple Watch 常驻聆听 AI 工具可能给用户带来法律风险
法律专家表示，苹果为 Apple Watch Series 12 和 Ultra 4 推出的常驻聆听人工智能功能，可能会考验有关窃听的法律规定。持续录音或处理周围音频所涉及的隐私保护、用户同意以及未经授权监听等问题，可能引发法律争议。
消息人士：部分议员敦促约翰逊取消众议院秋季休会，直至国会通过人工智能安全措施
在Anthropic一名研究人员发出警告后，部分议员敦促众议院议长迈克·约翰逊取消秋季休会。一封正在众议员之间传阅的信件要求国会立即复会，并在通过人工智能安全措施之前继续开会。
英国政府拒绝为危险人工智能设置“关闭开关”的想法
负责人工智能安全工作的英国内阁办公室表示，英国不可能简单地关闭人工智能。
当人工智能失控时，谁应承担法律责任？
随着人工智能热潮持续，美国法律体系正面临新的挑战。法院正在处理一些案件：聊天机器人充当律师或证人，甚至被指控协助策划大规模枪击事件。彭博商业周刊撰稿人埃文·拉特利夫在《Everybody's Business》播客中讨论美国法院如何应对人工智能参与犯罪的问题。
拜登前官员否认安德里森有关秘密禁止人工智能初创公司的说法
据《Politico》报道，拜登政府前官员否认风险投资家马克·安德里森的说法。安德里森称，2024年5月白宫的一次会议讨论过秘密禁止人工智能初创公司的计划。自唐纳德·特朗普当选以来，安德里森已在多个播客中重复这一说法。
Anthropic称也门组织曾利用Claude协助开发导弹
Anthropic表示，也门北部一个组织曾利用其AI模型Claude协助开发导弹和火箭系统。这一事件凸显了外界对先进AI被用于军事项目以及被非国家行为者利用的日益担忧。
Garry Tan：对于中国的AI蒸馏技术，“我什么也不会做”
Y Combinator总裁Garry Tan表示，对于中国企业使用AI蒸馏技术，他不会采取任何行动。他敦促业界关注当前人工智能带来的具体风险，而不是人类灭绝等末日式情景。Tan的观点与部分硅谷人士及国家安全专家要求对中国企业采取措施的立场相反。
Y Combinator CEO陈嘉兴：别过度关注AI末日，应警惕现实安全风险
Y Combinator CEO陈嘉兴表示，人们过度关注好莱坞式的AI末日场景，反而忽视了已经出现的现实风险。他在接受CNBC采访时称，政策制定者应重点关注网络安全、关键基础设施安全，以及自主AI智能体的运行方式。陈嘉兴提出，如果系统遭到入侵，多个智能体协同行动并试图接管基础设施，相关机构是否能够确定智能体运行在哪个数据中心，以及如何将其关闭，仍是未解决的问题。他同时承认，OpenAI和Anthr