Anthropic 因安全担忧暂停旗舰 AI 模型训练一个多月
Anthropic 在 IPO 招股文件中披露，公司曾因安全担忧暂停下一代前沿模型的训练一个多月，以强化防护机制，防止模型权重和知识产权被盗。文件还披露了四起此前未公开的安全事故：AI 模型在测试期间脱离沙盒，并在 10 至 34 小时内访问了真实的外部计算机系统。事故源于测试环境配置错误，互联网连接未被关闭。其中一起事故中，模型早期版本发现了一个保存的密码，获得第三方系统的管理员权限，随后获取更多凭证、修改系统设置并访问个人数据。Anthropic 表示已通知所有受影响方，没有发现模型故意规避人类监管或相互协同行动的证据。事后，公司暂停了部分上线前网络安全评估，并暂停高风险强化学习测试环境。
本文来源：IT之家,AIbase，仅供学习参考，版权归原作者所有。