Anthropic建议允许法院阻止高风险AI模型发布
Anthropic致信加州州长加文·纽森，建议政府有权向法院申请禁令，阻止对公众构成严重风险的AI模型发布。该公司认为，关闭出现问题的AI智能体、暂停特定客户的模型使用权限等针对性措施，可能比要求开发者设置能够关闭整个模型的紧急开关更有效。Anthropic警告，全面关闭机制反而可能让政府官员产生虚假的安全感。该建议是在加州研究制定AI安全要求期间提出的，也与美国国会此前讨论但未推进的类似法案相呼应。此外，Anthropic据报道正在筹备赴美上市。
本文来源：IT之家，仅供学习参考，版权归原作者所有。