Anthropic 禁止对 Claude 进行“持续且不必要的虐待或残酷对待”
Anthropic 一年多来首次修订使用政策,以应对新的高风险滥用情形,包括干预选举、武器研发、监控以及医疗和金融领域的应用。最引人注目的变化之一,是禁止持续且不必要地以虐待或残酷的方式对待 Claude。
AI 新闻中心 过去24小时分析了 207 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
Anthropic 一年多来首次修订使用政策,以应对新的高风险滥用情形,包括干预选举、武器研发、监控以及医疗和金融领域的应用。最引人注目的变化之一,是禁止持续且不必要地以虐待或残酷的方式对待 Claude。
文件显示,OpenAI告知投资者,其9月底的年化营收接近500亿美元。这远低于媒体此前根据投资者文件报道的700亿美元。
Goodfire推出了一种监控AI代理的方法。该公司称,与其让另一个AI检查代理的所有行为,不如观察模型内部的运行情况,仅在出现可疑迹象时才启动额外审查。降低成本是Goodfire的说法,目前没有提供独立验证结果。
Hone 是一家开发企业运营辅助 AI 智能体的初创公司,已完成 6000 万美元种子轮融资,估值为 2.85 亿美元。该公司由 OpenAI 和 Cognition 的前员工创立。
热门AI模型排行榜背后的初创公司Arena Intelligence融资2亿美元,估值达到31亿美元,高于今年1月的17亿美元。该公司还推出了Alignment Index(对齐指数)。
热门 AI 模型排行榜背后的初创公司 Arena Intelligence,以 31 亿美元估值融资 2 亿美元。随着市场对评估 AI 性能和风险的需求增长,该公司计划拓展至 AI 安全性测量。此轮融资由 Lightspeed Venture Partners 和 Khosla Ventures 领投,Salesforce Ventures 与 Dell Technologies Capital
Meta 的 AI 智能体 Muse 现已登陆 iPad,并可连接 Canva、QuickBooks、Notion 和 Zoom。隐私方面的担忧仍然存在。
Natura的Interface智能戒指售价99美元,用户按下手指即可召唤AI代理。这些代理可以完成任务、记录想法并控制设备。该戒指还兼具健康追踪功能。
CreditSights全球策略主管温妮·西萨表示,人工智能融资激增正使信贷分析变得更加困难。投资者需要评估回报的不确定性、数据中心可能过度建设的风险,以及日益复杂的融资结构。她在彭博电视台《彭博监视》节目中谈到了这一问题。
Waymo 获得 50 亿美元贷款,这是公司首次进行债务融资。贷款方包括黑石、太平洋投资管理公司和 Sixth Street 等。资金将用于扩大无人驾驶出租车服务,并支持 Waymo 拓展美国、欧洲和日本市场。此前,Waymo 主要依靠母公司 Alphabet 和外部投资者提供资金。今年 2 月,Waymo 通过股权融资筹集了 160 亿美元,当时公司估值为 1,260 亿美元。
Google 发布了实验性笔记应用 Google AI Edge Foresight,可完全离线转录会议和音频文件。该应用可在 macOS 上免费使用,并运行于谷歌的端侧模型 EmbeddingGemma 2。介绍还提到它能够生成摘要。
Ambrosia Energy首席执行官Ben Longmier与Bloom Energy高级副总裁Bill Thayer将登上TechCrunch Disrupt的Smart Systems舞台,讨论AI基础设施热潮带来的机遇。这则公告同时宣传活动报名。
包括OpenAI和Cognition AI前员工在内的一群人正在创办Hone,开发能够像专业员工一样承接工作、处理持续数周任务的AI智能体。Hone预计将宣布完成6000万美元的种子轮融资。该公司将进入竞争激烈的市场,与其他利用AI提升工作效率的服务展开竞争。
NAMVIS是一种无需扩散模型、可根据少量输入图像合成新视角的框架。它不采用反复去噪,而是在少数由粗到细的尺度步骤中预测离散视觉令牌,并并行处理各尺度和目标视角。其多尺度投影姿态编码将相机几何信息注入注意力机制。在Objaverse、GSO和OmniObject3D数据集上,作者报告称,NAMVIS在PSNR、SSIM和LPIPS指标上优于扩散模型基线,并且在相同评估设置下运行速度超过三倍。研究结
OpenAI 阻止了两起由人工智能支持的影响行动。这些行动利用虚假记者和一家智库作为掩护,传播地缘政治信息。