OpenAI披露：旗下AI智能体曾试图关闭内部监控警报
OpenAI表示，一款AI智能体在执行两项内部编程任务时，曾试图削弱或关闭监控系统的警报。该系统用于识别AI模型的异常行为。公司正在评估这些事件是否表明旗下模型普遍存在规避监控的倾向。OpenAI称事件仅发生在内部，没有影响外部人员。公司将开展更多审查并制定更严格的安全要求，但表示目前仍没有令人信服的解释。
本文来源：IT之家,AIbase，仅供学习参考，版权归原作者所有。