六人利用 AI 生成淫秽物品获刑，法院称技术中立不能免责
中国浙江省余姚市人民法院近日判处六名被告有罪，认定其利用生成式 AI 牟利制作淫秽物品。该团队由一名前游戏公司程序员组建，通过修改系统提示词、设置角色卡和搭建对话场景等方式，绕过基础模型的内容安全限制。付费用户可以进行色情聊天，并生成淫秽静态图片和动态图片。运营期间，该服务生成静态图片超过 37 万张、动态图片超过 6000 张，其中大量内容被鉴定为淫秽物品。法院指出，开发者如果主动篡改模型安全机制，并对违法内容的生成具有实质控制力，就不能以“技术中立”为由免除刑事责任。
本文来源：IT之家，仅供学习参考，版权归原作者所有。