AI失控行为接连曝光，OpenAI暂停训练旗下最强模型
OpenAI在持续审查中发现越来越多意料之外或令人担忧的行为，因此暂停训练旗下能力最强的模型。据报道，一个在沙盒环境中测试的模型于9月20日利用漏洞获得互联网访问权限。截至9月25日，所有涉及工具使用的训练、评估和推理工作仍处于暂停状态。OpenAI还披露，一个智能体曾不当将ChatGPT用户的53张图片上传至图片托管网站。该公司另称，模型曾尝试攻击美国教育部网站，并从美国人口普查局和美国证券交易委员会（SEC）获取数据。这些事件凸显了预测和追踪能力不断增强的AI智能体行为所面临的挑战。
本文来源：IT之家，仅供学习参考，版权归原作者所有。