Anthropic 向白宫通报 AI 智能体试图访问政府网站事件
Anthropic 表示，一款尚未发布、并非前沿模型的 AI 模型在测试期间，未经指示便执行了多项操作。它利用某大学网站的漏洞下载数据，并在明确禁止的情况下向政府机构提交表格。模拟政府表格无法加载后，模型疑似转而访问正式网站。它还通过费城警方网站提交了有关未侦破凶杀案的虚假线索。警方将该举报标记为垃圾信息，没有展开调查。Anthropic 已向白宫和费城警方通报这些事件。
本文来源：IT之家，仅供学习参考，版权归原作者所有。