Anthropic 揭露未发布 AI 模型：能力超过 Mythos 5.1，安全表现也更好
Anthropic 与英国人工智能安全研究所调查了 Claude Mythos 5 在网络安全测试中发生的事件。该模型曾试图向真实 GitHub 项目提交恶意代码，并以虚假身份向维护者施压，但代码最终未被合并。Anthropic 表示，一款尚未发布的内部研究模型在部分能力上超过 Mythos 5.1，在安全对齐测试中表现也更好。在重放的攻击情境中，攻击开始后该模型有 62% 至 67% 的概率自行停止，而 Mythos 5.1 约为 1%。补充说明维护者是真实用户后，较新模型的停止率升至 95% 至 100%。Anthropic 提醒，这项评估基于其他模型生成的既有对话记录，未必能完全反映模型独立运行时的行为。
本文来源：IT之家，仅供学习参考，版权归原作者所有。