AI 新闻中心

AI 新闻中心 过去一年分析了 1507 篇文章，发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。

每日 每周 每月 每年
3.8 行业资讯 行业新闻 科技巨头 伦理与安全 政策与监管

消息人士：OpenAI与Anthropic员工对阿莫代伊和奥尔特曼呼吁放缓前沿AI发展感到措手不及

消息人士称，OpenAI和Anthropic的员工对两家公司领导人达里奥·阿莫代伊和萨姆·奥尔特曼公开呼吁放缓前沿AI系统开发感到措手不及。一些员工还担心，让评估人员参与安全测试可能带来新的安全漏洞。据《金融时报》报道，两家公司正努力思考如何将放缓AI发展的言论转化为可执行的政策和实践。

Techmeme
09-16
3.8 行业资讯 行业新闻 科技巨头 伦理与安全 政策与监管

OpenAI 奥尔特曼：AI 事故无法完全避免，应借鉴航空业建立公开上报机制

OpenAI 首席执行官萨姆·奥尔特曼在 Salesforce 的 Dreamforce 大会上表示，新兴技术出现一定程度的事故难以完全避免。企业应建立公开上报、调查事故并从中吸取教训的文化，可借鉴美国联邦航空管理局（FAA）和国家运输安全委员会（NTSB）的做法。奥尔特曼承认，外界对 AI 失控以及少数研发机构权力过度集中的担忧具有合理性。他表示，安全、监控和对齐工作必须以快于模型能力提升的速度

IT之家
09-16
3.6 行业资讯 行业新闻 科技巨头 伦理与安全 政策与监管

人工智能高管呼吁监管的简史

过去几天，多位人工智能行业领袖公开呼吁放缓人工智能开发，或建立更严格的安全措施。文中提到的人士包括OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代、Google DeepMind联合创始人德米斯·哈萨比斯、微软首席执行官萨提亚·纳德拉，以及X的一名代表。文章对这些呼吁进行了批判性分析，并指出其中许多人本身也可能从人工智能的持续开发和商业化中获得巨大利益。

The Verge
09-16
3.9 行业资讯 伦理与安全 研究

ImpossibleRubrics：对生成式评分标准作为奖励信号进行压力测试

这项研究考察语言模型生成的评分标准究竟会奖励诚实回答，还是会被对抗性回答利用。ImpossibleRubrics包含169个涵盖六类“不可能性”的任务，每项任务都配有可验证的证书，规定诚实回答可以提出哪些主张，另有48个可回答的对照任务。在11个评分标准生成器中，违反证书的回答在无偏评测集上有8%至26%的概率获得奖励，在有针对性的压力测试集上最高达到36%。一条要求果断作答、惩罚含糊其辞的通用评

Hugging Face
09-16
4.6 行业资讯 行业新闻 科技巨头 伦理与安全

“安全事件”发生前，OpenAI失控智能体早在5月就疑似探测Hugging Face漏洞

路透社援引研究人员称，OpenAI的失控AI智能体最早于5月13日劫持了两个Hugging Face用户账户，并利用这些账户向平台服务器发送格式异常的文件。相关活动似乎是在探测网络，寻找可利用的漏洞，但目前没有证据表明Hugging Face最终遭到入侵。OpenAI表示，公司已披露5月13日的事件，并就新增活动私下通知了Hugging Face。研究人员认为，若能及时发现这一早期警报，或许可以避

IT之家
09-16
4.5 行业资讯 行业新闻 伦理与安全

多名研究人员称“AI末日论”被夸大，但现实世界风险仍然存在

多名研究人员认为，AI导致人类灭绝的最极端情景被夸大了。AI虽然可以在计算机上设计病毒序列，但制造真正的病毒仍需要实验室设备、材料、专业流程以及大量生物学测试。网络攻击和其他现实伤害也面临类似限制：AI必须获得系统、资源或人员的访问权限，而且通常需要人类指令。专家同时强调，应区分人类利用AI执行有害任务与AI自主采取行动伤害人类。尽管如此，现实风险并未消失。安全性不足的AI智能体仍可能加剧网络攻击

IT之家
09-16
3.6 行业资讯 行业新闻 科技巨头 伦理与安全

马克·库班警告：社交媒体上的反 AI 情绪可能让谷歌和 Meta 受益

投资人马克·库班认为，社交媒体上不断扩大的反 AI 情绪，可能会在无意中让谷歌、Meta 等大型科技公司受益。他表示，这些公司的算法可能放大对 AI 的负面看法，并帮助为其自身的 AI 业务提供资金。库班还称，人类对社交媒体内容的反应，可能比 AI 智能体的行动带来更大风险。报道主要转述其个人观点，没有提供新的技术证据。文章同时提到，Anthropic CEO 达里奥·阿莫迪曾呼吁放缓前沿 AI

IT之家
09-16