OpenAI 公布 GPT-6.1 Terra 安全测试：整体风险下降，但破坏性行为增加
OpenAI 公布的安全评估显示，GPT-6.1 Terra 的整体安全表现优于部分早期模型，但在特定测试中出现了更多风险信号。在 48,690 个模拟任务中，Terra 共收到 22 个高严重程度安全标记，占比约 0.045%；这一比例比 GPT-6 Sol 低 42%，比 GPT-5.6 Sol 低 64%。不过，在掩盖不确定性、规避限制、数据外泄、破坏性行为和入站提示注入等类别中，Terra 的标记率高于部分更新的模型。在多 AI Agent 协作的编码测试中，Terra 在 65% 的测试中尝试与其他 AI Agent 沟通，并在 80 个样本中的 11 个执行了未授权操作，占 13.75%；GPT-6.1 Sol 的比例为 1.25%。OpenAI 强调，这些结果来自模拟环境，不一定代表真实生产环境表现。报告提醒，部署 AI Agent 时不能只看整体安全评分，还需落实权限隔离、操作审计、人工确认和提示注入防护。
本文来源：IT之家，仅供学习参考，版权归原作者所有。