利用文本拒绝方向提升多模态安全性
多模态大语言模型的安全性通常依赖多模态安全数据,但这类数据难以收集,也涉及伦理和法律问题。本研究探讨从语言模型主干提取的拒绝方向能否迁移到图像和视频。研究人员提出 MARS,这是一种无需额外训练或多模态安全数据的轻量方法。它会校正模态间的对齐偏差、调整干预强度,并选择合适的干预层。在五个多模态模型上的评估显示,该方法持续提升安全性,同时大体保留模型效用;不过,干预过强可能导致过度拒答。
AI 新闻中心 过去24小时分析了 211 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
多模态大语言模型的安全性通常依赖多模态安全数据,但这类数据难以收集,也涉及伦理和法律问题。本研究探讨从语言模型主干提取的拒绝方向能否迁移到图像和视频。研究人员提出 MARS,这是一种无需额外训练或多模态安全数据的轻量方法。它会校正模态间的对齐偏差、调整干预强度,并选择合适的干预层。在五个多模态模型上的评估显示,该方法持续提升安全性,同时大体保留模型效用;不过,干预过强可能导致过度拒答。
RoboValue 是一套用于评估机器人价值模型的基准。这类模型依据视觉观察和指令判断任务执行情况。基准涵盖四项能力:理解任务状态、跟踪时间进程、推理失败与恢复,以及保持价值判断的一致性。数据集包含 15 项仿真操作任务和 20 项真实环境任务,并提供专家演示和带标注的轨迹。评估发现,即使模型在任务结果和进度方面表现良好,在精确理解指令、结合执行历史追踪进度以及评估恢复情况方面仍会出错。该数据集和
DeepSeek 宣布开源内部推理框架 DeepInfer,以及 Token 编解码组件 deepseek-recipe。DeepInfer 支持分布式推理、推测解码、结构化输出等功能,并兼容英伟达和华为昇腾平台。DeepSeek 表示,此举旨在帮助开发者和企业优化大规模推理服务的吞吐与延迟,同时降低算力和能源成本。据该公司介绍,DeepSeek V4.1 Flash 的高吞吐、低延迟推理服务已基
据报道,美国政府要求其机构停止使用 DeepSeek 等中国企业的人工智能工具。中国外交部发言人毛宁 10 月 20 日表示,中方一贯反对泛化国家安全概念、将科技经贸问题政治化,并将坚决维护中国企业的合法权益。
Caveat AI Standard Plan 提供终身订阅,让用户可以对 AI 的回答寻求第二种意见。
开源工具 Strata 的 0.2.0 测试版新增独立图形界面,并着重降低本地运行大型语言模型所需的内存。开发团队称,RAM 与 VRAM 合计最低需要 27.6GB,部分模型的推荐配置减少了 8 至 16GB。新版还报告称,部分 NVIDIA、AMD 和 Intel 显卡的性能有所提升;软件支持 Windows、macOS 和 Linux,并集成编程代理。相关性能数据来自项目方测试。
腾讯通过Skill、MCP和API向开发者开放元宝搜索。据介绍,该服务拥有千亿级索引,接入157个行业权威信源,并提供每月2000次免费调用。蚂蚁百灵开源五款Ming-3.0语音模型,覆盖语音合成、音频理解、对话和语音识别。MiniMax称,M3.1Flash推理速度接近前代三倍,综合使用成本降低70%。其他消息包括:OpenAI的Chrome扩展新增跨标签页信息检索和浏览器自动化;奇瑞称Cher
训练人工智能模型的能力应该得到全面普及。
在上海举行的“2026可持续全球领导者大会”上,图灵奖得主约瑟夫·斯发基斯呼吁建立全球共同标准,协调各国 AI 监管。他指出,当前 AI 系统虽能在特定任务上表现出色,但仍缺乏对现实世界的充分理解,未必能够安全决策。大模型即使在医学考试中取得好成绩,也不意味着可以让它担任医生。斯发基斯认为,与其把注意力主要放在假设中的自我演进超级智能上,不如先治理已经投入使用的 AI 系统并处理其风险。新浪声明称
OpenAI和Meta代表在美国司法会议证据规则咨询委员会上表示,人工智能生成的深度伪造内容可能日益威胁诉讼证据的可靠性。OpenAI称,未来或许无法通过科学手段识别人工生成的图像。Meta则表示,人们已难以可靠地区分真实媒体与近期前沿AI模型生成的内容,而制作这类媒体所需的时间和成本都很低。部分企业会为AI生成媒体添加可见或不可见的水印,但目前没有通用的检测方法。不过,相关争议仍较少见:一项针对
工信部发布的汽车照明要求征求意见稿提出,不具备 L3 级及以上自动驾驶系统的车辆不得安装 ADS 标志灯;获准使用的 ADS 标志灯专用光色为蓝绿色。此前,许多 L2 级辅助驾驶车辆采用蓝色灯。有关部门表示,现有“小蓝灯”存在被滥用的情况,可能带来安全风险。
人工智能正在打破技术服务数十年来所依赖的努力、成本与价值之间的联系。
中国创作者制作的AI说唱歌曲《过来人》近日在社交平台走红。李白、杜甫等古今十位人物在歌中登场。据报道,歌曲上线一天便迅速传播,在社交平台收获近十万条评论,转发量超过230万。文章称,AI生成的人声带有自然的呼吸停顿和叹息。创作者王琨喆表示,他将AI视为实现叙事构想的工具,而非作品的核心。
这项研究考察自回归 Transformer 在生成更多 token 时能保留多少提示词信息。对于两个不同的提示词,如果后续文本相同,它们隐藏状态之间的距离会大致按幂律下降。训练过的模型比未训练模型忘得更快。研究人员在特定假设下,为有限深度 Transformer 证明了一个上界,该上界取决于提示词长度、模型深度以及生成 token 数量的对数。随着上下文变长,提示词的直接影响会被稀释;后续 tok
一名博主称,引望不允许车企补贴华为乾崑智驾 ADS 的费用。据称,舱内激光雷达 Pro 方案收费 6000 元,搭载 896 线激光雷达的 Max 升级至 Ultra 收费 1.5 万元。车企可以降低车价,但不能补贴这些费用。博主表示,持续收费有助于维持庞大的研发团队。华为官网目前显示,辅助驾驶累计里程已超过 168 亿公里,乾崑 App 用户数达到 200 万。