Anthropic 展示让 AI 训练 AI 的低成本高速方法
Anthropic 发布了一项研究，介绍一种用于改善 AI 模型对齐表现的自动化研究系统。该系统会查阅现有文献、提出训练方法、短时间训练模型，并根据测试结果反复保留或淘汰方案。在针对 10 种具体失调行为的测试中，10 项指标均有所改善，同时没有牺牲模型的整体能力。Anthropic 表示，表现最好的自动化方法平均只需约 6 小时，就能超过经验丰富的人类研究人员提出的方案。其 API 推理成本约为每小时 4 美元，而人类研究人员的成本约为每小时 150 美元。不过，这些结果仍属初步发现。该方法依赖对齐基准能否准确反映真实目标，也需要持续投入来建立和维护基准以及更新系统所参考的研究文献。
本文来源：IT之家，仅供学习参考，版权归原作者所有。