我们正在失去对人工智能的控制吗?新担忧背后的驱动因素
人工智能已经从科幻电影中的概念,发展成为普通人可以在手机上使用的技术。多年来,科技行业领导者和一些人工智能专家一直警告,能力不断增强的系统可能脱离人类控制,并对社会造成危害。最近几周,随着技术进步、涉及人工智能代理的多起网络安全事件,以及人工智能行业一线员工发出的新警告,这些担忧变得更加难以忽视。这些事件凸显出自主人工智能系统在安全性、监管和可靠性方面仍存在未解决的问题。
AI 新闻中心 过去一年分析了 7654 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
人工智能已经从科幻电影中的概念,发展成为普通人可以在手机上使用的技术。多年来,科技行业领导者和一些人工智能专家一直警告,能力不断增强的系统可能脱离人类控制,并对社会造成危害。最近几周,随着技术进步、涉及人工智能代理的多起网络安全事件,以及人工智能行业一线员工发出的新警告,这些担忧变得更加难以忽视。这些事件凸显出自主人工智能系统在安全性、监管和可靠性方面仍存在未解决的问题。
OpenAI首席执行官萨姆·奥尔特曼表示,公司希望继续降低人工智能的成本。在旧金山举行的OpenAI年度开发者大会上,他还与彭博社的埃德·勒德洛讨论了公司推出新AI代理“Dots”的计划。
OpenAI 在 2026 年开发者日宣布推出 Decisions API,面向低延迟分类与路由任务。据报道,该 API 可在约 150 毫秒内返回结果,比通过常规 API 使用 Luna 快约 10 倍。开发者提供上下文,并预先设定问题和有限的答案选项;API 返回结构化选择及置信度等信息。潜在用途包括客服工单分类与优先级判定、选择内容审核措施,以及在智能体工作流中决定下一步调用的工具或子智能体
OpenAI 在 2026 年开发者日宣布,ChatGPT 周活跃用户已超过 12 亿。据该公司介绍,ChatGPT Work 和 Codex 的每周用户合计超过 3,500 万,使用 OpenAI 产品的企业达 250 万家。这一增长反映出生成式人工智能正更多用于文档处理、数据分析和软件开发等工作场景。OpenAI 还推出了 AI 智能体 Dots,旨在跨应用执行任务。
如果人工智能确实像一些人担心的那样具有风险,仅由少数国家进行监管并不足够。需要建立一套涵盖所有国家人工智能开发活动的全面国际监管框架。
人工智能可以帮助民调机构发现欺诈性受访者、识别编造的答案,并判断样本在哪些方面存在不足。
由 National Design Studio 设计的 America.gov 新聊天机器人,旨在通过提示输入框简化公众获取政府信息的过程。美国联邦政府如今也有了聊天机器人。
企业能够获取的消费者数据越来越多,AI也让它们更容易估算每位消费者愿意支付的价格。近期报道和一本新的调查类书籍指出,算法越来越多地根据个人而非产品质量或市场价值来设定价格。
OpenAI并未公开支持英伟达的Open Agent Safety Platform,但据TechCrunch了解,OpenAI正在私下与英伟达合作推进这一计划。
OpenAI在开发者活动上推出“使用ChatGPT登录”功能,用户可用ChatGPT账号登录支持的第三方应用。首批合作伙伴包括Airtable、GitLab、HubSpot、Notion、Supabase和Vercel。全球已认证的ChatGPT用户均可使用该功能,合作网站也将逐步接入。第三方应用只能获取用户姓名、电子邮件地址及(如有)个人资料图片,不会获得ChatGPT对话、记忆、文件或账单信息
Anthropic称发现了一种类似CRISPR的系统,但相关实验尚未开展。一位专家批评称,研究结果还未得到验证,公关宣传却已先行。
OpenAI表示,Plus和Pro订阅用户通过“使用ChatGPT登录”,即可在16个第三方平台使用现有套餐额度。首批合作伙伴包括Vercel和Devin。
人工智能公司General Intuition再融资2.2亿美元,估值达到62亿美元,累计融资超过6.5亿美元。该公司利用游戏画面训练人工智能代理的空间推理能力,并开始提供用于人工智能训练的模型。
彭博社的埃德·路德洛分析了由人工智能驱动的新网站 America.gov,指出AI正在成为特朗普政府议程的核心。据报道,Anthropic在IPO前提交的招股书中警告称,人工智能可能给人类带来生存层面的风险。此外,AMD将以一项价值82亿美元的全股票交易收购由李飞飞创立、专注于世界模型的World Labs。
戴森表示,其新款人工智能牙刷的早期批次因进水而出现故障。这是该公司首次解释这款售价499美元的产品为何从商店下架。