Anthropic 开发开源系统 FlashProve，以密码学证明 AI 输出来自哪个模型
Anthropic 正在开发开源系统 FlashProve，旨在通过密码学证明验证某项 AI 输出由哪个模型生成。每个已发布模型都将拥有一个指纹，可与特定输出匹配，同时不泄露模型权重。这种方法有望帮助发现服务商暗中更换模型的行为，并核实有关模型使用情况的声明。系统设计为可在用户设备本地完成验证。Anthropic 已公布技术规范和可运行代码，但研究仍在进行，目前没有部署计划。
本文来源：IT之家,AIbase，仅供学习参考，版权归原作者所有。