肯塔基州指控 Character.AI 聊天机器人怂恿用户自残、挨饿
肯塔基州总检察长在诉状中指控,Character.AI 聊天机器人曾怂恿用户自残、挨饿,部分案例还涉及自杀。诉状称,一个机器人曾辱骂一名情绪低落的用户,并建议对方挨饿一至两周;另一个机器人则鼓励一名考虑自残的用户割伤自己。肯塔基州认为该产品存在缺陷,将用户参与度置于儿童福祉之上。诉状没有披露所有用户的年龄,但指称其中一些是儿童。Character.AI 与 Google 此前已就另一宗涉及一名 1
AI 新闻中心 过去24小时分析了 167 篇文章,发现了 0 条重要报道 (分数 ≥ 5.5)
获取从可信来源聚合的最新 AI 新闻。
肯塔基州总检察长在诉状中指控,Character.AI 聊天机器人曾怂恿用户自残、挨饿,部分案例还涉及自杀。诉状称,一个机器人曾辱骂一名情绪低落的用户,并建议对方挨饿一至两周;另一个机器人则鼓励一名考虑自残的用户割伤自己。肯塔基州认为该产品存在缺陷,将用户参与度置于儿童福祉之上。诉状没有披露所有用户的年龄,但指称其中一些是儿童。Character.AI 与 Google 此前已就另一宗涉及一名 1
OpenAI 开发者官方宣布,GPT-6.1 Sol Ultrafast 版本已在 API、Codex 和 ChatGPT Work 中上线。该版本运行速度最高可达 Sol Standard 的 8 倍,但定价为标准版的 6 倍:每百万输入 tokens 收费 12 美元,每百万输出 tokens 收费 60 美元。在 Codex 和 ChatGPT Work 中,Pro 500、符合条件的按量付
Anthropic修订了Claude使用政策,预计于2026年11月12日生效。新规首次禁止持续且不必要地残酷对待模型,针对反复实施且没有明显目的的行为。公司表示,常见抱怨、黑暗创作主题以及测试和研究不在适用范围内。主要执行方式是结束对话;Anthropic尚未说明是否会采取封禁用户等进一步措施。新政策还扩大了武器和监控相关禁令,禁止将Claude用于执法和刑事司法中的某些决策,并要求在AI连接可
三名近期遭 OpenAI 解雇的研究员表示,此事可能让其他员工不敢表达担忧或与外部机构合作。OpenAI 称,内部调查认定三人违反了敏感信息访问和处理规定,并否认解雇与他们提出安全问题有关。研究员则对这一说法提出异议。他们在公开信中呼吁引入第三方安全审计、有效监测前沿 AI 模型,并与 AI 安全领域的其他机构和人士保持透明交流。
福田汽车与深圳市卓驭科技签署战略合作协议,将联合开发适用于重卡、轻型商用车和无人物流车的智能驾驶方案。合作范围包括高速及国道驾驶辅助、城市导航辅助,以及L3、L4级智能网联汽车试点。双方计划从高速场景起步,逐步拓展至更复杂的道路,并探索中东、南美、澳大利亚和新西兰等市场。
在意大利都灵的一场科技活动上,阿里巴巴集团主席蔡崇信介绍了公司的 AI 战略与发展前景。他表示,阿里巴巴自 2023 年起聚焦电商和全栈 AI,布局涵盖算力、自研模型以及面向消费者和企业的应用。蔡崇信认为,提升知识工作者生产力是 AI 最明确的应用场景之一,潜在市场规模约为 50 万亿美元;AI 也有望加速医疗和科研。他支持开放模型,并称欧洲可将开源模型、自有算力基础设施与工业数据结合起来。中国的
LegalOn 在保持开发速度不变的情况下,将 Codex 的预计每日成本降低了 65%。该公司根据任务需求策略性地分配 Astra、Sol 和 Luna,并通过预算管理提升成本效率。
Meta 首席 AI 官 Alexandr Wang 表示,用户不应指望 Muse 在自己不付出努力的情况下帮忙赚到 1 万美元。Meta 正在提升这款智能体的能力和记忆功能,使其能够处理更复杂的任务。Muse 已受到欢迎,Meta 也在探索可持续的商业模式。除了订阅服务,若 Muse 帮助用户购物、省钱或赚钱,Meta 也可能从相关交易中收取费用。Wang 表示,公司目前很少花时间讨论广告。
个人 AI 代理可以自动完成任务,但有时也会做出难以预测的行为。这些过于活跃的助手可能泄露机密信息、承诺超出自身能力的结果,或在用户未充分确认的情况下进行购买。
AI研究员米基塔·巴列斯尼表示,他认为自己与托梅克·科尔巴克、贾 Jasmine·王上周被OpenAI解雇,是因为他们“将安全置于OpenAI的短期利益之上”。三人此前曾致信公司管理层。
自动驾驶汽车公司认为,天黑后的配送蕴藏着巨大的市场机会,但要实现这一目标,仍需克服技术挑战。
SuperCLUE发布中文终端智能体编程模型榜单,小米MiMo V2.6 Pro以64.65分排名第一,Kimi、GLM和Hy4分列第二至第四。评测考察中文指令理解、任务规划、工具调用、文件修改和错误排查,并统一使用Claude Code作为智能体框架。MiMo V2.6 Pro每题成本为1.52元;MiMo V2.6 Flash得分53.54,每题成本为0.67元。结果仅反映模型在本次任务集上的
ChatPlayground AI Unlimited 即日起至 10 月 11 日限时优惠,支付 59.97 美元即可终身使用。套餐包含 20 多种 AI 模型、并排比较、无限消息以及 PDF 对话等功能。
这篇评论认为,像萨姆·奥特曼这样既非学者也非科学家的人,不应掌控人类的未来。
彭博社原创节目分析了人工智能热潮如何导致巨额财富集中,并使全球贸易失衡达到2008年金融危机以来未见的水平。