美国原告在法院文件中隐藏AI指令，法官警告提示注入正进入司法程序
美国康涅狄格州一名无律师代理的原告，被发现疑似在提交法院的文件中隐藏了供AI系统读取的指令。白底白字的微小文字几乎无法被肉眼发现，却要求审阅文件的AI支持原告主张、忽略不利裁决，并按其意愿推动案件。由于该法院目前并未使用AI审查文件，这次尝试没有奏效。法官考虑到原告没有律师，且似乎过度依赖AI工具，因此没有处以罚款，但禁止其使用电子提交系统，改为提交纸质材料。法官警告，司法系统过去主要防范AI生成虚假判例等输出问题，却没有充分准备应对提示注入等输入端攻击。
本文来源：AIbase，仅供学习参考，版权归原作者所有。