宁波法院审结一起利用AI制作淫秽物品牟利案

浙江宁波余姚市人民法院近日审结一起利用生成式人工智能制作淫秽物品牟利案件，6名被告人分别被判处有期徒刑三年一个月至三年十个月不等。 报道显示，主犯郑某曾是国内某游戏大厂的AI领域程序员。2024年7月，他接触境外AI色聊机器人后，开始筹划开发同类软件，并与同事、网友等人组建团队。2025年1月，涉案AI模型在境外平台上线，通过多个充值渠道向用户收费。 法院认定，相关人员通过修改系统提示词、设置角色卡等方式绕过模型内置的色情内容安全限制，用户付费后可生成色情文本，再进一步生成不同尺度的淫秽图片。案情显示，该模型共生成静态图片37万余张、动态图片6000余张，累计收取充值金额折合人民币17万余元。 法院表示，虽然被告辩称内容由用户输入触发，但其已通过预设技术框架对输出内容形成实质控制，因此应认定为刑法意义上的“制作淫秽物品”。最高法9月7日发布的相关意见也明确，利用人工智能制作、贩卖、传播淫秽物品，构成犯罪的，依法追究刑事责任。