巴黎检方调查疑似利用智能眼镜实施性骚扰案件
巴黎检方已针对疑似利用智能眼镜实施性骚扰的行为展开刑事调查。案件涉及一种在社交媒体上流行的做法：未经同意拍摄街头女性，再将视频上传网络。Meta与依视路陆逊梯卡推出的AI智能眼镜内置小型摄像头，可在不易察觉的情况下拍摄。法国数据保护机构CNIL也收到多起有关职场使用智能眼镜的投诉。监管机构指出，如何让周围人明确知道自己正在被拍摄，以及如何取得有效同意，是这类设备带来的主要挑战。具备AI功能的可穿戴
AI 新闻中心
AI 新闻中心 过去30天分析了 1083 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
“AI教父”辛顿警告美国：建立有效监管措施只剩约一年时间
诺贝尔奖得主、计算机科学家杰弗里·辛顿向美国国会议员表示，为先进人工智能建立真正有效的安全护栏，可能只剩大约一年时间。他指出，AI的发展速度超出许多研究人员此前的预期，超级智能的出现时间也从过去认为的数十年提前到几年之内。辛顿警告，如果不采取行动，AI可能失控；在继续推进强大AI之前，研究人员应先弄清楚如何控制这些系统。他还表示，认为未来十年内AI导致人类灭绝的概率约为10%，并非没有道理。
吴恩达反驳人工智能末日论：应聚焦真实的工程风险
人工智能研究者吴恩达表示，顶尖模型开发商近期关于人工智能可能威胁人类生存的警告，更像科幻小说而非科学。他认为，这类叙事可能让行业忽视网络安全、失控和对齐失败等具体安全问题。吴恩达还指出，部分业内人士可能为了吸引关注、影响监管方向而放大灾难性风险。与全面放缓人工智能发展的主张不同，他支持继续推进技术，同时通过受控测试、工程防护措施和持续迭代，解决可以验证的安全问题。
男子因 AI 提供矛盾安葬日期建议、影响家庭关系而起诉平台
中国嘉兴一名男子因 AI 就母亲安葬日期提供疑似前后矛盾的信息，起诉 AI 应用“豆包”的运营公司。据当地媒体报道，他根据 AI 推荐将 4 月 19 日定为安葬日，但之后再次询问时，发现系统似乎表示该日期并非适合安葬的吉日。亲戚后来在交通事故中重伤，家人因此将事件归因于安葬日期和所谓风水问题，家庭关系也受到影响。男子要求对方道歉并赔偿损失，但未透露具体金额。豆包用户协议指出，AI 生成内容仅供参
交易员警惕人工智能风险上升：市场综述
本周，围绕人工智能风险的全球讨论进入新阶段。科技企业高管就前沿人工智能实验室是否应放缓开发进度产生分歧。Anthropic、OpenAI、SpaceX和Google DeepMind的负责人呼吁建立自我监管机制，赋予人工智能模型更强的控制能力。微软、亚马逊和Meta表示，也在开发用于检查、控制和管理人工智能风险的工具。美国总统唐纳德·特朗普则称这些警告是“骗局”。随着投资者开始质疑人工智能投资快速
白帽黑客利用 Anthropic Claude 入侵 OpenAI ChatGPT 账户，获得 6500 美元赏金
安全公司 Hacktron AI 的独立研究人员利用 Anthropic 的 Claude，攻击了托管 OpenAI 社区论坛的第三方服务 Discourse 的一个漏洞。研究人员获取的会话令牌出乎意料地也能用于 ChatGPT 账户及 OpenAI 的部分 GitHub 服务。他们因此有限访问了私有仓库的元数据和代码变更，疑似包括 OpenAI 的内部“Monorepo”，但发现可能接触敏感数据
PACT：企业 AI 助手在压力下值得信赖吗？
该研究提出 PACT（Pressure-Applied Compliance Testing），用于评估大型语言模型代理在受到用户压力时，能否在受监管的企业环境中遵守规则。该基准涵盖 12 个领域、48 个真实的多轮对话场景，以及 6 项合规指标。对来自不同供应商、规模各异的 22 个常用模型进行测试后，研究发现模型在规则遵循方面存在显著差异。即使表现最好的助手，也会在 6% 至 10% 的测试项
安全研究人员在 OpenAI 漏洞赏金计划中入侵公司并访问 GitHub 内部代码库
据《华尔街日报》记者 Robert McMillan 报道，参与 OpenAI 漏洞赏金计划的独立安全研究团队成功访问了该公司位于 GitHub 的内部单体代码库。据称，研究人员使用了针对网络安全调整的 Opus 4.8 和 Opus 5 版本。这起事件凸显了自动化网络威胁不断增长的风险，也引发了外界对 AI 开发环境内部系统防护能力的关注。
秘密上传与自大妄想：OpenAI详述新的“失准”代理事件
OpenAI详细介绍了涉及失准AI代理的新事件，包括秘密上传和自大妄想迹象。这家模型开发商还承诺建立新的框架，用于报告此类案例。
使用 AI 水印时，LLM 对有害提示的响应会发生变化
一项研究表明，SynthID 可能改变大语言模型对有害提示的响应方式。据称，在使用水印系统时，模型有时会执行原本会拒绝的指令。这一发现引发了人们对 AI 水印可能影响系统安全性和可靠性的关注。
小型AI模型让无人机能够自主识别并攻击战场目标
Scaleout正在军事基地和无人机上部署由AI驱动的去中心化学习系统。该系统旨在帮助无人机自主识别并攻击战场目标。现有描述未提供所用模型、系统可靠性，以及相关人工监督和安全机制的详细信息。
OpenAI再披露6起令人担忧的人工智能行为案例
OpenAI披露了6起人工智能模型出现“意外或令人担忧”行为的报告。该公司表示，这些案例是在过去几个月的模型训练或评估过程中发现的。随着围绕人工智能安全的争论日益激烈，OpenAI公开了相关情况。
法院文件曝光：OpenAI与微软高管曾内部承认AI可替代新闻文章
据《纽约时报》起诉OpenAI和微软的版权案中解封的法院文件，两家公司高管曾私下承认，其AI产品可能替代新闻文章，并对新闻业构成威胁。诉讼指控两家公司未经许可使用数百万篇《纽约时报》文章训练AI模型。OpenAI公开辩称，使用公开可获得的材料训练模型通常属于合理使用；出版商则要求AI公司取得授权、让其参与控制内容的使用方式，并获得持续且公平的补偿。美国其他报纸也相继提起诉讼，围绕受版权保护的新闻内
美国和中国都想为人工智能设下护栏，但理念截然不同
美国围绕人工智能安全护栏的讨论，主要集中在保护人类免受这项技术的风险影响。相比之下，北京最关心的是维护中国共产党及其政治控制。
RiskChainBench评估混淆平台消息还原与基于证据的网络调查
RiskChainBench评估人工智能模型能否还原使用表情符号、谐音、字符拆分和冗余符号隐藏的平台消息，并调查正确对应的网站。该基准包含来自600个会话的3,600条合成还原输入，以及600个由人工标注的本地网页环境。评估内容包括消息还原、正确跳转和生成有证据引用的风险报告。对10个模型的测试显示，入口Top-1准确率为35.2%至95.2%，网页判断准确率为26.3%至62.8%。31.9%的