微软首席执行官萨提亚·纳德拉：人工智能企业应以人类为先
微软首席执行官萨提亚·纳德拉呼吁人工智能企业进行全面测试，并确保系统处于人类控制之下。他警告称，仓促推进人工智能的企业最终可能会“失去运营许可”，同时主张由外部独立测试人员参与评估，以应对日益激烈的人工智能安全争论。
AI 新闻中心
AI 新闻中心 过去30天分析了 1082 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
扎克伯格与黄仁勋在 AI 警告上与行业领袖产生分歧
扎克伯格与英伟达首席执行官黄仁勋对 AI 安全警告提出质疑，这与特朗普总统反对监管的立场相契合。彭博社记者迈克·谢泼德指出，特朗普在与中国国家主席习近平会面前，希望避免在 AI 领域设置任何监管障碍，以保持竞争优势。
AI 实验室想要内部审计员，但或许应先关好“大门”
AI 实验室正考虑通过内部审计员来管理失控代理。不过，文章认为，更简单且可能更有效的办法，是先加强基础安全措施和访问控制。
Meta首席执行官就人工智能安全争议发表看法
彭博社记者埃德·勒德洛分析了马克·扎克伯格的主张：人工智能实验室应依靠独立评估机构和顾问，以确保模型安全。据报道，OpenAI正与投资者就新一轮融资进行早期洽谈，这可能使ChatGPT开发商的估值超过1.2万亿美元。报道还介绍了Impulse Space筹集3.08亿美元D轮追加融资的情况，以及太空机动经济的未来。
联合国各国就自主武器崛起展开博弈
联合国秘书长安东尼奥·古特雷斯警告称，世界在自主武器的开发和使用问题上，正危险地接近跨越道德红线。
评论：为人工智能提供反垄断豁免将助长串通
现行法律已经允许 Anthropic 和 OpenAI 在真正目标是人工智能安全的情况下开展合作。但更广泛的反垄断豁免可能鼓励企业串通，并削弱市场竞争。
别再担心人工智能末日，真正的威胁已经出现
飞机、电梯和餐馆都受到确保安全运营的监管。许多专家认为，人工智能也应采取类似的传统安全措施。
美国人有多担心人工智能的环境影响？最新民调揭示数据
一项最新民调显示，53%的美国人对人工智能的环境影响感到“极度”或“非常”担忧，高于去年的41%。许多受访者尤其担心支持人工智能和云计算的数据中心消耗大量电力。民主党人对环境影响的担忧增幅最大，但调查也显示，公众普遍关注数据中心扩张对当地社区造成的影响。该调查由美联社—NORC公共事务研究中心和芝加哥大学能源政策研究所共同开展。
首席执行官们究竟如何看待人工智能末日威胁
在华盛顿举行的一场私人聚会上，数十名商界领袖表示，人工智能带来的安全威胁确实存在，并敦促特朗普总统与中国国家主席习近平合作。报道没有提出新的技术发现或具体政策措施。
联合国秘书长古特雷斯：世界承受不起人工智能安全领域的恶性竞争
联合国秘书长安东尼奥·古特雷斯呼吁各国共同推进人工智能监管，并加强对相关技术的监督。他警告，地缘政治分歧可能诱使各方采取冒险行动，但世界承受不起在人工智能安全领域持续进行恶性竞争。古特雷斯表示，人工智能治理需要真正的国际合作、协调一致的全球行动以及更严格的安全措施。他将在联合国大会高级别周期间与各国领导人讨论人工智能风险，并提出应为人工智能设立的安全边界。今年早些时候，他还启动了国际人工智能独立科
“我用一小时完成了两周的工作”：近三成AI用户向雇主隐瞒使用情况
一项最新调查显示，近三分之一的劳动者会向上司隐瞒自己在工作中使用AI。调查结果表明，员工对于公司政策、绩效评估以及职场中哪些AI使用方式可以被接受仍存在疑虑。
无需担心人工智能末日：Surfshark工程师称灭绝恐慌只是“营销手段”
Surfshark首席系统工程师卡罗利斯·卡丘利斯认为，人们对科幻式人工智能末日的担忧被过度渲染。与其关注遥远的灭绝风险，不如优先解决生成式人工智能目前已经造成的现实问题。
加拿大和德国将向LawZero提供最高3亿美元，支持安全人工智能开发
加拿大和德国政府将向由约书亚·本吉奥创立的非营利组织LawZero提供最高3亿美元的资助。LawZero正在开发旨在提高人工智能安全性的系统。据《环球邮报》报道，这笔资金体现了两国政府对人工智能安全研究的支持，但3亿美元是可能提供的最高金额，并不意味着资金已经全部拨付。
OpenAI与AARP帮助老年人将AI用于日常生活
OpenAI与AARP将在美国10座城市为1,000名老年人提供免费的ChatGPT实践课程。该项目旨在帮助参与者掌握实用的AI技能，并安全、有效地使用这项技术。
利用人工智能交友应用实施的性感骗局出现了
安全研究员Matthew“Zigula”Gore-Kormanik在分析一款名为Dora的欺诈交友应用时，弹窗显示Jennifer正在打来电话。根据她的个人资料，她是一名41岁的射手座女性，有红发、蓝眼睛和穿孔，喜欢音乐、恐怖电影、夜生活和体育。Gore-Kormanik接听了电话。这一事件表明，人工智能交友应用可能被滥用，以使情感骗局显得更加可信。