2026年，西北某地检察机关办了一起用AI仿制证件行骗的案子。嫌疑人用现成AI软件，把住建、学校证件和入学缴费单据仿造出来，再以代办重点中学跨学区入学、公租房为由连环欺骗，涉案数万元。几乎同时，2026年2月，司法机关也公布了一则用AI拟声冒充独居老人亲属、骗走三名老人现金六万元的典型情形。还有一名学生购得AI换脸工具，冒用他人银行卡支取五万余元，事后被追究责任、执行一年十个月。
一、法律边界先看清
AI本身不是责任主体，扛责任的是背后的人。模型训练用了没授权的数据、产品上线前没做安全评估、出了伪造内容企业没及时拦，都可能让技术团队和公司作为共同主体被盯上。要注意，AI生成内容被拿去干坏事，平台不是当然无责，关键在有没有尽到合理的注意和拦截义务。这里要把一句话点明：AI犯罪刑事责任的边界，看的是"谁在决策、谁在获益、谁有能力拦没拦"。实务里常见三种归责思路。训练环节看数据来源是否干净，脏数据喂出来的模型，责任在采集团队。上线环节看有没有做安全评估，没评估就放量，责在决策人。运营环节看发现滥用后处置是否及时，拖着不管，责任持续累计。技术人往往低估这条，以为上线就完事。
二、开发者常踩的坑
坑一，觉得"模型是开源的，锅不该我背"。开源只解决代码来源，不解决你把模型用在什么场景、喂了什么数据。许可证只管代码能不能用，不管你拿它去仿什么、骗谁、造成多大损害。
坑二，训练数据不清洗。把爬来的未授权语料直接灌进模型，侵权和越权风险全堆在自己这边。很多团队图省事直接扒公开网页当语料，侵权和越权风险一并打包进模型。
坑三，上线零护栏。生成证件、人脸、声音的接口不加水印、不核验，被人拿去仿冒，平台难辞其咎。没有水印和核验，生成结果一旦外流，平台很难证明自己尽到了拦阻义务。
把这三坑串起来看，问题都出在上线前没把法律当成需求方。技术评审里加一个合规角色，很多事本可以前置消掉。
三、该怎么做：分步骤把风险拦在前面
建训练数据台账。每批语料记来源、授权状态、用途，能追到原始出处。别信口头说来源合法，入库单上要留对方授权凭证编号。为什么：出事时证明你尽到了审查义务。做错会怎样：数据来源说不清，侵权认定直接落到你头上。留痕：语料入库审批单和来源清单。
给生成类接口加护栏。涉及人脸、声音、证件的生成，强制内容水印和用途声明，异常调用限流。为什么：证明你建了防滥用机制。做错会怎样：无护栏等于给滥用者开路。留痕：接口策略配置和拦截日志。
做上线前合规评审。新模型发布前走一遍"数据授权、输出风险、应急预案"三审。三审不是走形式，每一条都要有对应负责人签字，否则评审纪要等于零。为什么：把责任认定前置。做错会怎样：上线即裸奔，责任甩不掉。留痕：评审纪要和签字。
留全环节操作证据。从训练、评测到上线运营，操作人和时间点全程留痕。为什么：责任划分就看这条链。做错会怎样：链条断一处，整体说不清。留痕：防篡改日志归档。
设应急响应。发现被滥用立即下架、留证、报相关方。为什么：及时止损能减轻责任权重。做错会怎样：放任扩散，责任只增不减。留痕：处置时间和动作记录。
四、审判视角软提醒
我做审判工作三十七年，这两年桌上摆的AI相关案卷越来越多。这类案子棘手之处在于责任主体认定，法官不会只看谁写了代码，更看谁拍板上线、谁从中拿了好处、谁本可以拦住却没动。技术人别以为躲在"只是打工"后面就安全。
本文作者韩宝玉，曾在某省直属法院任高级法官，审判工作37年，现在北京百环律所深圳办案团队办案。
本文只作普法参考，个案情况差异较大，不构成法律意见。
