11月2日,“网信中国”通报全国网信系统查处的10起典型案件,其中两起直接涉及人工智能服务。一起是四川某科技公司运营的微信小程序,提供AI文本对话、图片生成,未落实生成合成内容的显式标识、元数据隐式标识和导出环节标识,也未开展安全评估,被属地网信办责令下线。另一起是江苏某科技公司,以“API中转站”方式调用多个大模型接口,对外提供对话、问答服务,未按规定开展安全评估,被责令改正、从严处理责任人并警告。
两起案件,正好对应AI服务合规的两条硬线:内容标识和安全评估。
标识不是贴一句“AI生成”
按《人工智能生成合成内容标识办法》,标识是一条完整链条:显式标识面向用户呈现;隐式标识写进文件元数据,包括属性信息、服务提供者名称或编码、内容编号;导出环节还要再标识。三环缺一不可。案例九被查处,说明缺任何一环都不是“整改瑕疵”,而是独立的违法状态。
还有个容易漏的点:案件同时违反《互联网信息服务深度合成管理规定》和《人工智能生成合成内容标识办法》,义务来源是叠加适用,不是二选一。合规意见不能只覆盖一个文件。很多团队把标识当产品UI问题,实际上元数据、导出、分享链路都要管;用户把图片视频转出去,二次传播仍在规制范围内。
“我只是中转”不免责
案例十的企业并不自研模型,只做API中转,执法机关仍认定它是生成式人工智能服务提供者,负有安全评估义务。依据是《生成式人工智能服务管理暂行办法》和《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》。“技术由上游提供”在责任认定层面不构成抗辩。
安全评估还是上线前置义务。未评估即对外提供服务,本身就是可独立处罚的行为,与生成内容是否实际违法无关。这一点对创业公司尤其重要:觉得自己只是“套壳”,但一旦对外提供公众问答服务,主体身份就跑不掉。
处罚梯度也清楚:仅未评估的,责令改正、处理责任人并警告;标识与评估都缺失、存在内容安全风险的,直接责令产品下线。对以AI功能为核心的小程序,下线接近业务终止,实质重于罚款。官方通报本身还构成公开的合规记录,拟上市、参与招投标或接受投融资的企业,应把它当披露事项预先评估。
一周能做的自查
从业者可以把合规清单按“标识+评估+备案”整体校准,而不是拆成互不衔接的顾问事项:盘点所有对外输出AI生成内容的产品入口;逐项核对显式标识、元数据隐式标识、导出标识;判断服务是否落入舆论属性或社会动员能力情形;核验安全评估与备案文件的有效性和覆盖范围;采购第三方AI能力时,在合同里写清接口来源合法性、评估与备案义务分配、被查处时的责任和费用承担。
一周能完成盘点和清单,但改产品链路、补评估、做元数据标识要排期。网信执法这次给出的信号很直接:监管颗粒度已经进到企业内部管理流程。AI合规不再是法务一个人的附件,而是产品上线前必须过的一道工序。