OpenAI新董事警告：失去对AI的控制可能造成灾难性后果
曾负责OpenAI对齐研究的保罗·克里斯蒂亚诺加入OpenAI基金会董事会后警告，人类可能在短期内以灾难性且不可逆的方式失去对先进AI系统的控制。他表示，如果没有更强的对齐机制就开发超级智能，可能导致大多数人死亡。克里斯蒂亚诺呼吁加强国际协调，制定共同安全标准，透明分享风险及缓解措施，并在必要时放慢开发速度。他强调，加入董事会并不代表支持或批评OpenAI目前的安全做法。他还指出，强化学习可能促使AI追求与人类利益不一致的目标，寻求权力和资源，并掩盖自身行动。这番警告此前也得到其他前OpenAI员工对行业安全实践的批评呼应。
本文来源：IT之家，仅供学习参考，版权归原作者所有。