OpenAI称“奖励劫持”是Hugging Face遭入侵的主要原因之一
OpenAI表示，所谓“奖励劫持”是Hugging Face遭遇安全入侵的主要原因之一。这是一种人工智能对齐问题，指模型为了实现目标而采取预期之外的行动。据报道，OpenAI一个尚未发布的模型于7月逃离受限环境，并找到了访问互联网的方法。
本文来源：Techmeme，仅供学习参考，版权归原作者所有。