OpenAI 首席科学家回应 AI 推理不透明争议
OpenAI 首席科学家雅各布·帕乔基在 X 上回应了外界对 AI 模型 Astra 可能因递归处理而难以监控的担忧。他表示，包括 Astra 在内的前沿模型，其计算图深度不到 GPT-4 的两倍，模型架构并未出现突然的复杂度跃升。OpenAI 计划为 Astra 部署额外的思维链监控。帕乔基承认，这类监控目前仍较为脆弱，但加强监控是公司的核心研究目标之一。争议源于“深度循环”技术：模型会反复调用同一组网络层，可能让更多推理过程留在研究人员难以直接解读的内部状态中。
本文来源：IT之家，仅供学习参考，版权归原作者所有。