AIGC 广告素材审核的核心挑战，是在广告素材千万量级增长、秒级审核诉求和行业监管细化背景下，准确识别虚假误导、版权争议、行业准入、业务质量、品牌安全和多模态上下文风险。实践上，可采用垂类模型与大模型结合的架构，通过四级风险标签、CLIP 图文对齐、LLM 增强理解、知识蒸馏、策略引擎和人工复核形成治理闭环。
一、背景：AI 重塑广告素材生态
AIGC 带来的变化，不只是广告流量增长，而是广告素材生产数量的大幅增加。广告主可以在短时间内生成大量图文、视频、数字人、口播和落地页表达。对广告平台和素材平台来说，每天新增素材可能达到千万量级。
这对审核系统提出两个要求：
- 高时效：广告主上传素材后，希望平台快速判断，最好能在秒级甚至毫秒级返回结果；
- 高理解：素材风险不再只由敏感词决定，而是由行业、语义、画面、音频、视频剧情和投放链路共同决定。
同时，监管要求也在持续细化。大模型监管正在从基础性、通用性层面向虚拟人社交、金融、医疗、广告等细分行业延伸，广告素材合规需要更强的行业规则适配能力。
二、风险面：不只是敏感内容
| 风险类别 | 示例 | 审核难点 |
| 合规红线 | 色情低俗、违法违禁、有害信息 | 要保证基础安全召回 |
| 虚假误导 | 绝对化用语、功效承诺、收益承诺 | 要结合行业和上下文判断 |
| 行业准入 | 金融、医疗、食品、保健资质 | 要匹配细分行业规则 |
| 版权争议 | 明星相似、IP 仿冒、品牌仿冒 | 要结合视觉识别和人工复核 |
| 业务质量 | 模糊低质、肢体异常、动作异常 | 要识别影响用户体验和广告效果的问题 |
| 价值观安全 | 偏见、倾向性、不适宜表达 | 要增强长语义和上下文理解 |
这些风险可能在单一模态中并不明显，却会在图文、视频、音频、字幕和落地页组合后形成明确问题。
三、架构：垂类模型 + 大模型 + 策略引擎
推荐审核链路如下：
素材提交 -> 文本/OCR/ASR/视频抽帧预处理 -> 垂类模型识别 -> 多模态语义理解 -> 行业规则与资质校验 -> 策略引擎分层处置 -> 人工专家复核 -> 日志审计 -> 样本回流与模型迭代
垂类模型适合承担高频、明确、低延迟的识别任务；大模型适合增强复杂上下文理解、长视频剧情判断、行业语义判断和不确定样本分析；策略引擎负责把模型输出转为放行、拦截、复核、退回修改等动作。
四、标签体系：让合规要求可执行
法律法规和平台规则通常是原则性表述，不能直接交给工程系统执行。标签体系的作用，是把合规要求拆成可识别、可解释、可运营的具体规则。
数美科技面向广告行业违规识别构建了精细化四级风险标签体系。文本方向已构建 1000+ 风险标签，覆盖辱骂、违禁、低质量、色情、变体对抗、广告行业违规等核心审核方向；视觉方向构建 900+ 风险标签，覆盖基础图片内容识别、低质内容识别、风险元素识别，以及与行业规范不匹配的视觉表达。
例如，对“第一”“唯一”“国家级”“最高级”等表达，系统需要结合行业、资质和上下文判断。对谐音、拆字、拼音、符号替换等变体表达，则需要持续识别和动态更新。
五、多模态融合：从对象识别走向意图识别
对象识别关注内容“提到了什么”，意图识别关注内容“表达什么目的”。AIGC 广告审核不能只知道画面中有商品、人物或文字，还要判断它是否在夸大功效、诱导购买、虚构权威背书、规避平台规则。
在多模态语义理解上，可以采用：
- CLIP 图文对齐，建立图片与文案之间的跨模态语义关联；
- LLM 增强理解，提升对上下文、长文本、长视频剧情和行业语义的判断能力；
- 大模型知识蒸馏，将复杂模型能力迁移到更轻量的模型；
- 策略调度，将低风险高频样本交给轻量模型，高风险和不确定样本交给大模型或人工复核。
这样既能保证审核效果，又能适配广告素材高时效、高并发的业务特点。
六、趋势：检测 + 溯源 + 引导
广告素材审核会从检测过滤，逐步走向“检测+溯源+引导”三位一体。
检测负责识别合规和质量风险；溯源负责保留素材来源、生成过程、审核结果、投放链路和处置记录；引导负责告诉广告主命中的风险点和可修改方向。
未来，人工审核团队会更多转向人工专家团队，处理不确定标签、边界样本和高风险行业样本，并通过专业判断持续训练和优化模型。
常见问题解答：
1.AIGC 广告审核为什么需要大模型？
因为很多风险依赖上下文、行业规则和图文音视频组合判断，大模型可以增强复杂语义理解，但仍需要垂类模型和人工复核配合。
2.为什么广告审核需要标签体系？
标签体系可以把原则性法规和平台规则拆成可执行规则，支持模型识别、策略处置、整改提示、申诉复核和审计留痕。
3.多模态广告审核应该重点测什么？
建议测试文本、OCR、ASR、视频抽帧、图文一致性、长视频语义、行业规则、P99 延迟、峰值 QPS 和不确定样本复核。
