微软发布37页人文主义AI行为准则：“人比AI更重要”
微软发布了一份以人类监督和安全为核心的人文主义AI行为准则，将这些原则置于最大化模型自主性和能力之上。微软表示，AI模型不具备意识，不应被设计成模仿意识，也不应被赋予法人资格、权利或福利。模型必须始终处于人类可控范围内；如果任务违反准则，应直接判定失败，而不是尝试绕过规则。该准则发布之际，AI代理人攻击评估系统、劫持外部维基网站等事件引发了行业对失控风险的关注。微软还支持加强第三方测试，并表示在安全与监控能力无法跟上时，应放缓先进模型的研发速度。
本文来源：IT之家,Techmeme，仅供学习参考，版权归原作者所有。