OpenAI加紧研发下一代旗舰模型，循环推理与安全对齐成关键
OpenAI正在推进下一代旗舰模型研发，但安全对齐和测试基础设施建设使发布时间仍不确定。据《The Information》报道，员工预计公司将在2026年底前发布一至两款新模型，但旗舰升级版是否包含其中尚不明确。新模型据称采用与Astra相同的循环Transformer深度技术：生成下一个词元前，将当前词元多次通过相同的Transformer层处理。这可能提升数学推理和编程能力，并以较低成本增强小型模型的性能；但内部数值表示也会使部分推理难以通过可读思维链进行监督。报道还称，OpenAI已限制Astra的循环次数，并将约10%的计算能力用于对齐与安全研究。模型交付合作伙伴及正式公开前，预计还需接受美国政府的安全评估。
本文来源：AIbase，仅供学习参考，版权归原作者所有。