AI 新闻中心

AI 新闻中心 过去30天分析了 914 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。

安全是为了谁?面向受控大语言模型安全拒答的边界感知自蒸馏

该研究考察具有狭窄边界的安全对齐:模型可能需要拒绝有针对性的政治操纵,同时仍回答关于同一场选举的事实性问题。研究提出一种离线自生成框架,结合受控主题生成、覆盖度修复、分布内补偿数据,以及有害—无害配对数据。在 Qwen3-8B 上,目标领域的拒答率从9.47%提升至84.75%,三个更广泛有害性基准中的平均不安全响应率从26.26%降至0.14%。但XSTest中的过度拒答率从2.00%升至74.

谷歌人类基因组图谱或为新疗法铺路

Google DeepMind发布了一款名为AlphaGenome Atlas的人工智能工具。该公司的研究人员称,这个平台有望帮助揭示人类基因组的运作机制,加速生物学研究,并最终推动疾病新疗法的开发。平台包含一张预测图,用于展示DNA各个碱基可能发生的变化。不过,其直接的医疗价值目前尚未得到证实。

经合组织报告:较少使用人工智能完成课业的学生整体表现更好

经合组织最新报告显示,在课业中从不或很少使用人工智能聊天机器人的15岁学生,在科学测试中的整体表现优于经常使用者。每天使用人工智能为写作作业起草文本的学生平均得分为481分,而从不或几乎不使用者为509分。即使考虑社会经济背景,两组仍相差28分。经合组织强调,这些数据并不能证明人工智能使用与学业表现之间存在简单的因果关系,关键取决于人工智能是帮助学生进行批判性思考和主动认知,还是让他们绕过学习过程

菲尔兹奖得主雅各布·齐默尔曼成立数学人工智能安全研究所

菲尔兹奖得主、数学家雅各布·齐默尔曼正在成立数学人工智能安全研究所,旨在将高等数学应用于人工智能安全问题。齐默尔曼预计将于本月晚些时候加入OpenAI。他认为,数学研究可能有助于降低失控人工智能带来的风险,但这项倡议的实际成果和影响仍有待验证。

ENEAS:嵌入引导的神经集成模型,用于自适应分割

ENEAS是一种由文本提示驱动的方法,可跟踪单个物体,并在视频和无序数据集中发现与语义查询匹配的所有实例。该方法结合了用于稳健跟踪的时间记忆、视觉嵌入匹配,以及仅对模糊候选对象调用的条件式视觉语言模型验证。它旨在减少物体离开画面后跟丢、极端近景下分割破碎,以及把雕像、画作或倒影等外观相似物误判为目标等问题。ENEAS面向包括三维重建在内的应用场景,因为错误分类的干扰物可能破坏重建结果。代码和模型已

AI研发药物首次显示可能减缓生物衰老的初步迹象

英矽智能利用人工智能研发的药物Rentosertib,在一项涉及43名特发性肺纤维化患者的临床试验中接受评估。连续服药12周后,患者通过6种“衰老时钟”测得的生物年龄均有所下降。该药最初用于治疗肺部疾病,先前试验还显示其可能改善患者的肺容量。不过,这些结果并不能证明药物能够延长寿命或实现抗衰老。研究样本较小,未纳入健康人群,而且衰老时钟的可靠性仍存在争议。即使作为肺病治疗药物,Rentoserti

消息称小米前L3智能驾驶负责人王乃岩创业,攻关高泛化具身智能大脑

据报道,原小米L3智能驾驶技术负责人王乃岩已创办具身智能创业公司,目前正在寻求融资。一位投资人表示,该团队现有十几名核心研发人员,其中不少是王乃岩在图森时期的老同事。该公司的技术特点是将L3自动驾驶的技术思路复用到机器人领域。在动作模型预训练阶段,团队据称会采用域随机化和强化学习,只设定安全底线、物理规律等基础奖励函数,再让模型通过大量自我博弈和试错进行学习,以提升泛化能力。目前尚未公布具体技术成

离散扩散让大语言模型在保持质量的同时实现无损加速

研究人员推出了Uno,这是一种将自回归语言模型与扩散方法结合的架构,可并行生成多个词元。自回归权重仍使用标准的下一词元预测目标进行训练,轻量级扩散权重则负责并行生成。据研究人员介绍,扩散蒸馏只会带来极低的额外训练成本,也不需要像投机解码那样使用独立的草稿模型。在评测中,Uno在不降低基础自回归模型质量的情况下,最高实现约3倍的生成速度提升。研究报告称,8B版本在智能体工具使用、编程和长上下文推理基

FlowBalance:基于验证器的在策略推理经验自我改进

FlowBalance是一种利用推理模型自身在策略经验提升能力的方法。它将可靠但稀疏的终端验证器反馈,与同一模型生成的更密集自我引导结合起来。该方法根据验证器得出的组优势校准自我引导:对成功轨迹予以保留,对失败轨迹进行反向处理,在采样组没有结果偏好时则关闭引导。通过轨迹平衡,FlowBalance能够拟合归一化目标分布,而无需额外的词元级模仿损失。理论分析涵盖组内对比保持、最小变化的反向KL特性、

还有哪些地方需要修正?探索对话生成产物中修订传播的高性价比测试时计算

该研究考察大型语言模型能否将用户提出的局部修改传播到通过对话生成的产物中所有受影响的依赖部分。研究人员提出了一个新基准,并使用 gpt-oss-20b/120b、gpt-5.4-mini 以及 qwen3.5-9b/27b/122b 评估了九种修订方法,包括顺序反思和并行采样。基线方法的准确率为 68.3% 至 93%。最具成本效益的方法是从三个并行样本中,使用基于大语言模型的选择器或 medoi

蒸馏前先验证:基于提示词层级教师闸控的在线策略模型蒸馏

研究人员提出了一种名为“教师闸控在线策略蒸馏”(TGOPD)的新框架,旨在通过在提示词层级验证教师模型的可靠性,来优化模型的后期训练蒸馏。传统的在线策略蒸馏会无差别地应用教师监督,容易引入错误的更新。TGOPD 仅在教师通过可靠性检查时才将提示词导向密集蒸馏,其余则分流至基于验证器的 GRPO 算法。在 40 亿和 350 亿参数规模的数学、代码及指令遵循测试中,TGOPD 的表现均优于传统方法,

AI彻底击碎人机验证:GPT-6 Astra零失误通关48个游戏关卡

OpenAI 研究人员近日公开测试视频,展示最新模型 GPT-6 Astra 在 CAPTCHA “我不是机器人” 验证中,零失误通关了全部 48 个游戏关卡。这一进展展现了现代 AI 模型在多模态理解与环境交互上的强大实力,但也对传统人机验证机制的有效性提出了严峻挑战。随着 AI 技术持续演进,网络安全生态未来势必需要构建更加智能且立体的新一代身份验证体系。

Anthropic加速拓展医疗与生物科技领域的AI业务

据报道,Anthropic正通过收购、投资和合作,加快在医疗与生命科学领域的布局,重点覆盖药物发现和临床开发。此前,该公司以约4亿美元的股票交易收购了成立仅8个月的AI生物科技初创公司Coefficient Bio,并将其团队并入医疗与生命科学部门。Anthropic近期还推出了科研工作台Claude Science,用于整合科研工具并调用专业模型,同时发布了MHS模型硬件标准的研究预览版。MHS