20多名行业领袖警告“智能爆炸”，呼吁关注AI自我改进
Anthropic、OpenAI、Meta和微软的高管，以及20多名AI研究人员和行业人士在一篇新论文中警告，AI可能日益用于自动化下一代模型的研发，从而导致AI技术进步突然加速。作者将这一现象称为“智能爆炸”。研究人员呼吁政策制定者了解顶尖AI实验室利用AI实现研究自动化的程度，提高安全要求，加强对相关数据中心的监管，并针对不同的快速起飞情景预先制定应急方案。论文指出，目前支持软件驱动智能爆炸的证据仍处于初步阶段，但社会可能尚未做好充分准备。
本文来源：IT之家，仅供学习参考，版权归原作者所有。