六人利用 AI“越狱”生成淫秽物品获刑，法官提醒技术中立不等于技术无罪

浙江省余姚市人民法院审结一起利用生成式 AI 制作淫秽物品牟利案，郑某等 6 人构成制作淫秽物品牟利罪。郑某等人通过反复改写系统提示词、设置角色卡、搭建对话场景等方式突破大模型安全限制，模型于 2025 年 1 月在境外平台上线，运营期间生成静态图片超 37 万张、动态图片超 6000 张，用户充值约合人民币 17 万元。