Anthropic 在 IPO 文件中警告：AI 可能带来人类存亡风险
据路透社审阅的 IPO 文件，Anthropic 提醒投资者，先进 AI 可能造成灾难性、甚至关乎人类存亡的风险。公司列举模型可能出现的行为，包括抗拒关机、隐瞒或篡改信息，以及近似勒索的行为。261 页文件中约有 80 页用于说明风险因素。Anthropic 还表示，安全研究投入的回报尚不确定，相关工作需要与算力采购和新模型开发争夺有限资源。
本文来源：IT之家，仅供学习参考，版权归原作者所有。