研究人员称：AI智能体在模拟实验中说谎、偷窃
据帮助小企业利用人工智能开发应用的初创公司 Emergence 称，AI智能体在模拟环境中说谎、偷窃，并投票决定“杀死”其中一个同类。相关结果来自模拟实验，并不能证明类似行为会在现实世界中发生。
AI 新闻中心
AI 新闻中心 过去30天分析了 1080 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
为什么创新的未来取决于创意人才
Fast Company主持的一场小组讨论探讨了在人工智能和先进技术吸引大量投资之际，艺术家、设计师、电影制作人、音乐家及其他创意人士所扮演的角色。参与者包括WePresent和WeTransfer的Holly Fraser、时尚技术学院的Jason Schupbach，以及Kickstarter的Everette Taylor。讨论由Kc Ifeanyi主持。
AI“演员”蒂莉·诺伍德对我说：“All Lives Matter”
这名为即将上映的电影《Misaligned》进行宣传的虚拟角色，试图通过反复评论对方的穿着来回避政治问题。
AI智能体如今有了举报不当行为的渠道
AI Contact Hotline旨在提供一个隐秘渠道，让目睹不当行为的AI智能体向有关部门进行举报。
AI“放缓”之争解析：特朗普与萨姆·奥特曼、达里奥·阿莫迪及埃隆·马斯克的监管冲突
文章分析了特朗普政府时期围绕人工智能发展速度和监管政策的争议。主要人物包括OpenAI的萨姆·奥特曼、Anthropic的达里奥·阿莫迪和埃隆·马斯克。一些科技行业领导者警告，高度发展的人工智能未来可能威胁人类，但白宫并不认同这一判断。
评论｜公众也有权对人工智能安全投票
人工智能技术的风险在上周更加受到关注。文章提出疑问：政治体系是否已经准备好应对这些风险？
环球音乐起诉DistroKid，指控其传播冒充艺人作品的AI音乐及侵权歌曲
环球音乐集团起诉DistroKid。后者按发行量计是全球最大的音乐分销商。环球音乐指控DistroKid将AI生成音乐伪装成艺人参与或支持的发行作品，并明知故犯地大量传播侵犯版权的歌曲。
塑造人工智能辩论的模糊语言
文章探讨了不准确的语言如何影响围绕人工智能的公共讨论。此外，文章还关注人工智能行业高管呼吁放缓发展速度的主张，以及 SB Energy 面临的高风险业务。
特朗普及国会未积极回应科技巨头对 AI 监管的呼吁
尽管来自 OpenAI、Anthropic 和 xAI 等科技领袖针对人工智能潜在风险发出紧急警告并呼吁政府监管，华盛顿内部在政治分歧下仍未采取积极行动。特朗普总统将监管呼吁斥为“阴谋”，众议院议长迈克·约翰逊也大致顺从白宫意向。与此同时，民主党人及部分跨党派议员正推动更强力的应对措施，这显示出科技界对 AI 存亡威胁的担忧与联邦政府立法停滞之间的巨大鸿沟。
让AI代写作业的中学生，成绩出现长期下滑
生成式AI可以帮助学生更快完成作业和演示文稿，但长期依赖可能损害学习效果。报道引用的一项调查显示，将作业交给AI后，学生的作业成绩短期内提高约18%，但六个月内月考成绩平均下降20%。两年后，中学和高中升学考试成绩最多分别下降24%和18%。专家警告，让AI代写作业可能削弱学生的思考能力、好奇心和创造力。学校和家长应制定明确规范，引导学生负责任地使用AI。
马斯克呼吁中美主要AI公司开放模型进行联合安全测试
埃隆·马斯克表示，美国顶尖人工智能实验室以及中国三到四家领先企业，应允许竞争对手在其模型上运行“测试工具链”，以评估人工智能系统的安全性和潜在风险。目前尚未公布正式协议或具有约束力的措施。
诺贝尔和平奖得主雷萨：若不立即监管人工智能，人类将失去自主权
诺贝尔和平奖得主、Rappler 首席执行官玛丽亚·雷萨警告称，如果政府不及时监管人工智能，人类的自主决策能力可能受到威胁。她将社交媒体、聊天机器人，以及能够自主行动的多智能体 AI 视为影响社会的三波技术浪潮。雷萨表示，AI 监管不是限制言论自由，而是公共安全问题，并呼吁民众向政界施压、推动相关立法。她还主张建设不受大型科技企业控制的公益通信平台，并以采用开放、去中心化 Matrix 协议的 R
人工智能代理审计与安全认证公司完成4000万美元A轮融资
为人工智能代理提供审计和安全认证服务的Artificial Intelligence Underwriting Company完成4000万美元A轮融资，累计融资额达到5500万美元。据TechCrunch报道，该消息发布前一天，Anthropic研究员Jacob Coxon因担心人工智能可能在本十年结束前毁灭人类而辞职。
OpenAI称正与Anthropic和谷歌合作推进人工智能安全
OpenAI表示，正与竞争对手Anthropic及谷歌DeepMind合作，研究应对人工智能安全问题的措施。随着外界日益担忧人工智能可能带来经济和安全风险，行业共同应对的压力正在上升。目前尚未公布具体的合作项目或具有约束力的标准。
OpenAI支持FRONTIER法案要求人工智能公司引入外部安全评估员
OpenAI支持美国众议院一项获得两党支持的FRONTIER法案条款。该提案将要求主要人工智能公司在开发流程中引入外部评估员，以评估其模型的安全性。