AI 新闻中心

AI 新闻中心 过去一年分析了 1999 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。

北京月之暗面科技将注册资本增至223.85万元

中国大模型企业北京月之暗面科技近日完成最新工商信息变更。该公司注册资本已由152.36万元增至223.85万元。月之暗面成立于2023年,业务涵盖人工智能基础软件和人工智能应用软件开发。此次资本调整可能与业务扩张有关,但不代表一轮大规模融资或重大技术突破。

智能体安全应通过运行时契约来强制执行

作者认为,仅通过 RLHF、DPO 或 Constitutional AI 在训练阶段植入安全性,对于能够执行代码、修改文件、发送消息和变更数据库的自主智能体而言并不充分。他们提出由智能体运行框架强制执行的运行时契约,将沙箱、权限控制、输出过滤和轨迹监控等预防措施,与要求测试结果、日志、文件差异和有依据引用等可验证证据的核验机制结合起来。研究参考了对 52 起 AI 智能体和大语言模型安全事件、3

Spark-to-Paper:以可组合技能实现端到端研究论文生成

Spark-to-Paper是一套端到端研究论文生成系统,以13项可组合技能集成在现有编程助手中。系统能够检索文献、规划并执行实验、生成可编辑图表,并依据测量结果修改论文论断。它结合确定性的完整性检查与自我批评,用于检测捏造内容,并限制实验不断否定原始研究目标的失败循环。在8个受控研究主题中,系统取得99.5%的引文有效率和96.4%的图表可编辑率。消融实验显示,完整的完整性与审查机制可将捏造检测

ToolHazard:用于评估和对齐基于大语言模型的智能体的可扩展对抗环境

与外部工具集成的大语言模型智能体容易受到嵌入环境状态中的间接提示注入攻击。ToolHazard是一种可扩展的对抗环境合成框架,旨在减少人工工程工作。它结合环境模拟器、攻击者智能体和用户模拟器,生成可执行的有状态环境,发现可行的注入点,生成针对具体环境的攻击载荷,并构建基于环境状态的长程任务。研究人员基于该框架建立了ToolHazard-Bench,用于在复杂工作流和多种环境攻击下进行压力测试。实验

小米决定不举办澎湃 OS 4 发布会,首批 Beta 版开启招募

小米宣布澎湃 OS 4 Beta 版上线,并决定不举办传统发布会,而是通过专门团队收集用户反馈并持续优化系统。此次更新包括升级自研 Xiaomi HyperCore,引入负载精算和内存预载技术,以改善响应速度和操作流畅度。小米还推出接入自研 MiMo 模型的“超级小爱 2.0”,提升跨应用、跨设备的任务编排与内容生成能力。首批 Beta 版适配机型已于 8 月 13 日上午 11 点在小米社区开启

调查显示:超过八成日本企业尚未全面采用 AI

路透社的一项调查显示,超过 80% 的日本企业仅有限度地使用 AI,或完全没有使用。约 60% 的受访企业表示,AI 只应用于部分部门或有限任务;18% 尚未决定是否在工作场所引入 AI,6% 则尚未考虑使用。只有 16% 的企业已将 AI 视为不可或缺的工具。受访者提到,缺乏相关专业能力以及不清楚实际应用方式,是采用 AI 的主要障碍。日本政府报告还显示,日本在生成式 AI 应用方面落后于中国、

德国人权组织因智能眼镜隐私问题对Meta提起刑事诉讼

德国非营利组织HateAid已对Meta、Ray-Ban、Oakley及多家零售商提起刑事投诉。该组织认为,配备摄像头的智能眼镜能够进行隐蔽录制,可能违反德国隐私保护法律。HateAid还要求限制智能眼镜可进行录制的场所,类似于对行车记录仪和执法人员随身摄像机的相关规定。Meta表示,产品从设计阶段就已加入隐私保护措施,包括录制时闪烁的LED指示灯,以及检测到指示灯遭遮挡或篡改时停用摄像头的机制。

DeepMind哈萨比斯在改组前提议成立人工智能监管机构

DeepMind首席科学家德米斯·哈萨比斯曾与其他人工智能实验室负责人,以及包括财政部长斯科特·贝森特在内的特朗普政府官员,讨论成立一个新的人工智能监管机构。相关讨论发生在一次组织调整之前。目前尚未公布该机构的具体结构、权限或实施计划。

西湖机器人半年融资5亿元,押注人形机器人与具身智能

西湖大学人工智能与机器人领域的成果转化企业西湖机器人,在半年内完成四轮融资,累计金额达5亿元人民币。最新一轮A轮融资由海愿资本领投,金额近1亿元,资金将用于开发人形机器人全身统一模型,以及建设人才培养基地。公司已推出自研GAE系统和人形机器人“西湖o1”,并表示GAE已在多款双足机器人上完成验证。西湖机器人还与阿里巴巴、英特尔等企业展开合作,获得近1亿元订单,应用覆盖科研和教学。公司计划进一步将相

消息人士:前谷歌高管杰夫·迪恩正为AI初创公司Discovery Loop洽谈10亿美元融资

据《商业内幕》报道,前谷歌高管杰夫·迪恩正为其新成立的、专注于科学与工程领域的人工智能初创公司Discovery Loop洽谈约10亿美元融资。该公司的估值可能达到约100亿美元。迪恩曾在谷歌工作27年,参与建设多项核心技术。目前融资和估值仍处于谈判阶段,尚未最终确定。

Anthropic 将为 Claude 生成的 AI 内容添加水印,引发用户争议

Anthropic 计划在 Claude 的输出中嵌入不可见、可被计算机识别的代码,用于标记由 AI 生成或编辑的内容。这项政策旨在满足欧盟《人工智能法》的透明度要求。部分 Reddit 用户认为该机制不公平、不道德或过于 intrusive,称内容创作的大部分工作仍由人完成。其他用户则认为,在教育、新闻和软件开发等 AI 内容可能带来风险的领域,建立识别机制是合理的。批评者还指出,用户可以通过改

Twitch证实亚马逊利用直播内容训练AI模型

Twitch证实亚马逊正在使用其直播内容训练AI模型,并宣布用户可以通过隐私设置选择退出。由于该功能默认将用户视为同意,观众和多名知名主播对此提出强烈批评。争议主要集中在未经明确同意使用内容,以及由用户主动关闭授权的机制。Twitch表示,目前平台已使用AI生成字幕、制作视频剪辑和进行内容分类,但尚未使用生成式AI功能。

阿里开源2.4万亿参数大模型,称多项性能可比Fable 5

阿里巴巴通义千问团队已向全球开发者和研究人员开放Qwen3.8-2.4T-A95B的模型权重。该模型总参数量达到2.4万亿,每个Token激活950亿参数,原生支持26万Token上下文,并可扩展至101万Token。阿里称,模型在编程、日常办公、科研辅助和长周期智能体任务方面实现性能提升。据介绍,该模型在PaperBench和OSWorld-Verified评测中位居参评模型前列,部分指标超过多