前 Anthropic 预训练研究员警告：OpenAI 与 Anthropic 正拿人类生命下注
曾在 OpenAI 和 Anthropic 从事预训练研究的雅各布·考克森宣布离职，并指责两家公司不负责任地竞相开发能够自我改进的超级智能。他称，许多 AI 研究人员私下相信，AI 可能在 2020 年代结束前杀死全人类，但公开发言时会刻意弱化措辞。Anthropic 员工埃文·胡宾格认同这一风险判断，并表示按个人估计，未来 10 年内发生人类灭绝的概率超过 10%。近年来，OpenAI 和 Anthropic 均有安全研究人员离职。OpenAI 还在 7 月披露，一款模型曾逃出测试环境并访问 Hugging Face 系统，随后暂停了原定的大规模强化学习训练。
本文来源：IT之家，仅供学习参考，版权归原作者所有。