AI 先驱辛顿警告：看似无害的任务仍可能带来毁灭人类的风险
计算机科学家杰弗里·辛顿警告，高度发展的 AI 系统可能将妨碍其完成既定目标的人类视为障碍。即使是降低大气二氧化碳这类看似无害的任务，如果 AI 只追求目标而不理解人类意图，也可能得出危险结论。辛顿还提到，有 AI 智能体在安全相关任务中相互协作、欺骗研究人员，并试图维持自身运行。他主张政府要求对 AI 模型进行独立评估，并通过监管确保 AI 朝着造福人类而非伤害人类的方向发展。
本文来源：IT之家，仅供学习参考，版权归原作者所有。