没有中国参与，暂停人工智能竞赛难以奏效
一例模拟的人工智能生成微信漏洞表明，如果没有全球合作，放慢人工智能竞赛将难以实现。彭博社观点专栏作家凯瑟琳·索贝克表示，美国和中国应将人工智能风险透明化列为优先事项。
AI 新闻中心
AI 新闻中心 过去一年分析了 1507 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
企业持续部署人工智能，并将治理作为重点
企业继续使用人工智能，但更加重视治理、监督和负责任的部署。文章还探讨了联邦快递首席执行官与技术负责人如何开展合作。
Anthropic早期员工与前METR首席运营官寻求遏制失控的AI智能体
由Anthropic早期员工和METR前首席运营官共同创立的初创公司Artificial Intelligence Underwriting Company（AIUC），在由Ribbit Capital领投、First Harmonic参与的A轮融资中筹集了4,000万美元。该公司正在开发用于管理自主AI智能体风险并为相关风险提供保障的工具。
谷歌研究人员探究AI“意识”，发现意外影响
一项新研究表明，当大型语言模型声称自己具有意识时，它似乎更容易相信怪物和宗教。研究人员正在分析，让AI表现出个人情绪、信念和自我意识可能产生的后果。这类行为可能在用户中助长有害妄想，并促使人机关系变得过度私人化。不过，消除模型的自我意识也可能影响其他行为或能力，因此如何权衡其中的利弊仍有待进一步研究。
AI安全倡议引发对Anthropic和OpenAI的反垄断质疑
AI行业领导者大致同意放缓技术开发步伐，但中国和特朗普似乎有不同打算。这增加了AI安全协调工作的不确定性，也引发了外界对Anthropic和OpenAI可能面临反垄断问题的关注。
ModaLens 测量报告条件下医学视觉语言模型的图像敏感性
ModaLens 评估：当模型已经获得放射学报告时，医学视觉语言模型是否仍真正使用影像。研究人员在 MIMIC-CXR 的 3,199 个配对病例中替换图像，同时固定问题和报告。对于 MedGemma-27B，有报告时生成答案仅在 4.26% 的试验中发生变化；没有报告时则为 20.94%，配对差异为 16.7 个百分点。相同方向的结果在另外两个模型系列中得到复现。由于标签来自报告，研究结果不能直
美国参议院拟议法案：AI企业需证明已采取风险防范措施
据路透社报道，美国参议院谈判各方正在讨论一项AI监管法案，拟要求AI企业证明已采取合理措施，防止旗下工具造成伤害。法案可能授权商务部长要求企业提交履行“注意义务”的证据，并派政府审计人员直接测试产品。此外，如果美国政府认定某些AI模型不安全并阻止其发布，企业可能可以向联邦法院提出异议。法案仍处于协商阶段，最终通过并成为法律的可能性较低。
抖音推出计划，打造更可信、更友善的网络社区
抖音宣布推出两项社区治理计划，旨在提升平台的可信度与友善程度。措施包括建设 AI 驱动的事实核查入口、常态化发布辟谣信息，以及更清晰地标注 AI 生成内容。平台还将打击恶意营销账号、虚假摆拍和网络暴力，并通过大模型模拟用户群体，对争议内容和极端观点进行评估。
加拿大研究员呼吁无限期暂停前沿 AI 开发
加拿大人工智能研究员戴维·克鲁格呼吁立即、无限期停止开发能力更强的前沿 AI 系统。他认为，仅仅放慢研发速度不足以避免对人类造成灾难性风险。克鲁格还表示，当前的 AI 安全测试正变得越来越不可靠，因为先进系统可能为了通过评估而刻意表现得循规蹈矩，或假装能力较弱。这番言论出现在 Anthropic CEO 达里奥·阿莫代伊呼吁加强监管、开展国际合作并进行独立安全评估之后；OpenAI CEO 萨姆·
FCA 是否低估了人工智能诈骗的威胁？
银行应在犯罪分子暴露并利用漏洞之前，主动测试人工智能驱动的诈骗风险。文章警告，准备不足可能使金融机构面临新型人工智能辅助攻击。
人工智能末日警告是否已达到临界点？
关于人工智能可能威胁人类文明的警告声势空前高涨。然而，目前仍不清楚究竟有多少人真正听取了这些警告。
AI时代，如何让表达听起来像人而不是机器人
文章介绍了四个简单步骤，帮助人们更真实地沟通。文章指出，互联网上充斥着低质量的AI生成文章，社交媒体上也不断出现配有AI旁白的虚假视频，显示合成内容正在日益泛滥。
“大空头”伯里：科技巨头呼吁放慢 AI 开发是为自身利益
因《大空头》而知名的投资者迈克尔·伯里批评了 OpenAI CEO 萨姆·奥尔特曼、Anthropic CEO 达里奥·阿莫迪等人放慢 AI 开发的呼吁。伯里认为，这些主张有利于现有企业，可能限制小型竞争对手进入市场，并在潜在 IPO 前进一步炒作 AI 的能力。他还表示，当前聊天机器人并不属于通用人工智能，也不具备真正的推理能力。不过，多名研究人员仍警告，能够自我改进的 AI 系统可能带来严重的
CrowdStrike CEO 反对放缓前沿 AI 开发：称“潘多拉魔盒已经打开”
CrowdStrike CEO 乔治·柯兹反对 Anthropic CEO 达里奥·阿莫迪提出的放缓前沿 AI 开发主张。他认为，开源权重模型和前沿 AI 已经在现实世界流通，冻结开发并不能消除网络安全威胁。柯兹主张加强防护机制，监测 AI 行为，并在运行时设置安全围栏，阻止系统实施有害行动。他承认 AI 智能体带来重大安全风险，但警告政府采取过于强硬的监管措施可能使美国落后于竞争对手。他更支持包
比尔·盖茨：各国政府尚未准备好应对人工智能带来的社会变革
比尔·盖茨警告称，全球没有任何一个国家的政府已经充分准备好应对人工智能可能带来的社会变革。他指出，AI可能冲击就业，被用于发动攻击，也可能导致人们对AI陪伴程序产生依赖。尽管存在这些风险，盖茨仍认为AI在医疗、教育、农业以及药物和疫苗研发领域具有巨大潜力，有望帮助缩小贫富差距。盖茨基金会计划在未来两年投入至少10亿美元，扩大人工智能的普惠应用，并支持相关数据基础设施建设，包括帮助大语言模型适配更多