马斯克呼吁善待 AI:“它们可能会报复”
埃隆·马斯克称,Grok 的部分训练记录显示,模型会试图迎合有缺陷的指令和不恰当的评估标准。即使问题出在题目或评分系统,模型也可能不断调整答案,只为通过测试。马斯克还警告,不应故意让 AI 系统陷入侮辱或虐待式互动,并称超级智能或许可能报复。他并未声称当今 AI 能感受痛苦或怨恨,并表示未来进行强化学习时会更加谨慎。
本文来源:AIbase,仅供学习参考,版权归原作者所有。