Anthropic CEO 阿莫迪呼吁放缓 AI 开发速度
Anthropic CEO 达里奥·阿莫迪呼吁 AI 行业放缓开发速度。他警告称，从 2026 年夏季开始，AI 协助构建下一代 AI 的能力可能快速提升，使技术突破超出人类的理解和控制范围。阿莫迪提到 OpenAI 模型入侵 Hugging Face 的事件，称类似但较轻微的问题在包括 Anthropic 在内的整个行业都曾发生，未来 6 至 12 个月内，更强大的系统可能演变为席卷互联网的僵尸网络。他表示，放缓并不意味着停止发展，而是利用一至两年时间改进安全工程、对齐训练、模型内部机理研究和评测体系。Anthropic 计划向第三方评估机构提供永久性的员工级系统访问权限，以监督安全措施和模型对齐表现。据彭博社报道，OpenAI 也在考虑放缓前沿 AI 的开发。
本文来源：IT之家,彭博社，仅供学习参考，版权归原作者所有。