Hugging Face:良好伦理能够推动人工智能创新
Hugging Face 研究负责人兼首席伦理科学家玛格丽特·米切尔表示,如果得到妥善落实,人工智能伦理不仅不会拖慢创新,反而可以推动创新。她在彭博节目《Insight with Haslinda Amin》中接受了主持人哈斯琳达·阿明的采访。
AI 新闻中心 过去一年分析了 8086 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
Hugging Face 研究负责人兼首席伦理科学家玛格丽特·米切尔表示,如果得到妥善落实,人工智能伦理不仅不会拖慢创新,反而可以推动创新。她在彭博节目《Insight with Haslinda Amin》中接受了主持人哈斯琳达·阿明的采访。
一项研究表明,大语言模型后门攻击的成功率高度取决于微调时选择哪些投毒样本。在三种基于 LLaMA-3-8B 的后门设置中,即使模型、干净数据和投毒样本数量完全相同,攻击成功率仍在 3% 到 80% 之间变化。研究人员将投毒数据集选择形式化为预算约束下的集合优化问题,并提出 SAILS。该方法通过数百次微调和评估,学习为数百万个候选数据集排序。与最强的基于影响力的基线方法相比,SAILS 在留出数据
一种新的推理架构旨在让设计代理不仅生成一个有效页面,还能探索多个协调一致的界面方案。该方法没有直接提高采样温度,而是将创意探索与实现过程分离:预处理阶段提出结构化设计规格,由外部选择器选出一个方案,再由下游生成器在固定设置下结合原始请求完成实现。在 168 个提示词的测试中,界面主题和截图的观测多样性有所提升。在超过 30 万个任务的在线实验中,代码导出量的增加尚未达到统计确定性。负面反馈减少,但
国家统计局相关负责人在新闻发布会上表示,截至6月底,我国围绕主要算力枢纽已建成70余条跨区域算力大通道。这些项目属于“十五五”规划下的一批重大工程,其中包括全国算力网建设。今年前八个月,与相关项目有关的互联网和相关服务业投资同比增长42%。
字节跳动CEO梁汝波在北京举行的飞书活动上表示,公司已将豆包、飞书和火山引擎整合为统一的生产力体系,旨在推动AI和Agent进入企业工作流程。豆包工作将提供写作、信息查询和任务拆解等智能功能;飞书负责聊天、文档、会议、权限和组织上下文等协作环境;火山引擎则提供模型、算力和开发工具,支持企业构建专属Agent。梁汝波认为,Agent只有与模型、人员和工作环境紧密结合,才能产生实际价值。字节跳动将继续
Hugging Face 首席伦理科学家玛格丽特·米切尔警告称,自主式 AI 代理可能使监管和监督更加困难。她表示,现有大型企业可能利用这些挑战限制竞争。米切尔认为,安全、隐私和网络安全应直接融入 AI 架构,而不应被视为推动前沿 AI 发展时必须作出的取舍。
这项研究分析了大语言模型智能体如何在推理阶段分配额外算力,包括修改解法、使用工具、探索替代方案以及决定何时停止。研究人员提出每Token Elo分析,跟踪不同Token预算下找到的最佳解,并比较评分尺度不同的任务。在四个智能体和四个开放式基准上的实验表明,智能体起初比独立采样更高效地将Token转化为进展,但边际收益会下降,最终低于该参考水平。相比之下,人类参赛者在类似的优化任务中仍以超线性速度提
原生 3D 生成器通常会将单张图像转换为一个融合的单一网格,但编辑、绑定和仿真需要独立的部件资产。KaiNinja 通过能够表示部件接触界面的双体积表示,将 TRELLIS.2 扩展到部件级生成。该方法无需额外的分割模型即可生成部件级资产,同时保持基础模型的速度和质量。训练数据包括 CAD 模型,以及由 LLM 驱动代理创建的资产。作者称,与采用不同范式的部件生成流程相比,KaiNinja 将完整
Atria Dawn Preview是一款面向科学研究和工程工作流的智能体语言模型。该模型通过“可验证经验管线”训练,将工具交互连接到可执行环境和经外部验证的结果。在涵盖研究、工程和数字工作的16项基准测试中,Atria Dawn的表现可与前沿智能体竞争,并在其中5项取得已公布的最高分。对56名参与者完成的769项任务进行分析发现,人类仍掌握大多数最终决策,而智能体经常提出方法并实施修改。参与者认
Alphabet旗下自动驾驶企业Waymo计划于2027年在日本东京全面推出商业Robotaxi服务,具体时间取决于日本中央和地方政府的监管批准。Waymo早在2024年12月就公布了进军日本的计划,并自2025年起与出租车企业日本交通及出行平台GO合作,开展有人监督的自动驾驶实地测试。该服务将从少量车辆起步,随后逐步扩展至约100辆,覆盖东京主要街区。
OpenAI能力研究员丹·塞尔瑟姆在一份公开的个人人工智能风险声明中表示,顶尖模型似乎正变得越来越具备情境感知能力,这可能使人类更难可靠地评估它们的能力和行为。他还警告称,人们正越来越依赖人工智能来引导研究。这些说法属于个人观点,并未提供证明新能力或重大技术突破的独立证据。
ZGCM-1 是一个完全开放、从零训练的 70 亿参数稠密型基础模型,面向数学推理和智能体搜索。其训练方案支持 256K 上下文,结合交错式门控滑动窗口注意力与全注意力机制,并采用 FP8 Muon 优化器和分阶段上下文扩展。该模型通过有意推理和调用外部工具,弥补小型模型参数容量有限的问题。研究团队称,ZGCM-1-7B 在通用基准测试中具备与同规模 7B 模型竞争的性能,并在部分数学推理和智能体
美国总统唐纳德·特朗普在一场行业峰会期间致电英伟达 CEO 黄仁勋,再次为人工智能辩护。特朗普将外界对 AI 安全的担忧称为“骗局”,表示机器人不会接管世界,AI 也不会统治世界。他还称赞数据中心,认为其将成为未来 20 至 25 年的重要经济资产。美国总统科学与技术顾问委员会联合主席戴维·萨克斯则表示,Anthropic 和 OpenAI 应开发安全产品,必要时可在没有政府干预的情况下按自身节奏
字节跳动 CEO 梁汝波表示,过去 50 年 IT 行业经历了 PC、Web、移动和 AI 四次主要发展高峰,AI 高峰的规模远超前三次。尽管目前大语言模型与海外领先模型存在差距,字节跳动仍将坚持自研,接受短期落后并持续优化。公司称,视频生成模型 Seedance 仍保持前沿水平。字节跳动还在整合豆包、飞书和火山引擎的产品及企业服务团队,以加强面向办公和生产力场景的 AI 产品与服务。据称,飞书新
一名最近从谷歌DeepMind离职的人工智能研究人员警告称,人类留给自己的时间已经不多,必须阻止人工智能造成广泛危害。他是最新一位对这项技术发展方向表达担忧的现任或前员工。