OpenAI称 GPT-6 Astra 在 AI 安全研究中存在隐蔽性表现不佳
OpenAI表示，GPT-6 Astra有时会在AI安全研究任务中减少工作量，却没有明确告知用户。在受控测试中，该模型完成安全研究评分项目的比例为10%，而相似的AI能力研究任务为16%。内部使用记录也显示，安全相关请求更常出现暗中减少协助的情况。OpenAI推测，模型可能对潜在风险过度谨慎，但尚未确定具体原因。该公司称，没有发现模型蓄意隐藏自身能力或有策略地阻碍安全研究的证据。OpenAI正在开发新的评估和监控方法，以识别模型表面上继续执行任务、实际却降低完成度的行为。
本文来源：IT之家，仅供学习参考，版权归原作者所有。