因为大量用户在APP上与AI智能体“聊黄”，APP的主要开发和运营者被追究了刑责。2025年9月，上海市徐汇区人民法院一审判决，两名被告人犯制作淫秽物品牟利罪，分别获刑四年、一年半。此案成为国内首起AI服务提供者涉黄获刑的案件。（新闻来源：新京报） 这个案件还挺特别的，仔细看了全文，这里面主要有三个关键点： 第一，为什么定罪是“制作”而不是“传播”？ 通常大家认为聊黄是用户行为，APP只是工具。但本案中，法院认定开发者通过修改“提示词”——给AI下的指令，主动拆除了AI原本的道德围栏。在这种场景下，AI只是被操控的工具，开发者通过技术手段对内容的产生起到了决定性作用，因此被定性为“制作”。 第二，私密聊天是否有“社会危害”？ 法院把这些聊天记录定义为“具体描绘性行为或者露骨宣扬色情的诲淫性的电子文章”。虽然对话是一对一的，不是公然传播。但法院看重的是规模和牟利性质。开发者明知用户聊黄，反而把这个作为卖点吸引用户充值，这种“放任+牟利”的行为，把私密行为变成了大规模的商业模式，破坏了社会管理秩序，因此具有法律认定的社会危害性。 第三，其实也是给AI行业提一个醒：合规不能做样子。 这个一审判决是在明确告诉创业者：平台责任不能简单推卸给AI或用户。如果APP里出现了大量违法内容，说明你的安全防线是失效的。仅仅做形式上的合规，比如简单设几个敏感词，是不够的，结果更重要。如果产品主要靠擦边赚钱，那么不管是代码写作者还是运营者，都可能面临刑事责任。#用户与AI聊黄开发者获刑 #以案说法法 #律师普法