前言
随着短视频行业高速发展，UGC内容海量爆发、传播速度极快，已成为当下主流的网络内容形态。短视频融合画面、音频、字幕、封面等多元内容形式，风险点位分散、隐蔽性强，各类违规内容极易借助流量快速扩散，给平台内容风控与合规运营带来极大压力。传统人工审核效率低、响应慢、容错率不足，难以适配短视频即时发布、高频更新的业务模式，搭建高效智能、可实时响应的短视频审核体系成为行业刚需。
智能化短视频审核可对视频全维度内容进行合规筛查，依托智能识别技术规避人工漏审、误审、审核滞后等问题，实现快速审核、结果实时返回。在保障内容安全、规范平台生态的同时，大幅提升审核效率与用户发布体验，适配短视频高速分发的运营场景。本文聚焦短视频智能审核体系，详解审核机制、风险识别逻辑与标准化流程，为平台高效风控、合规运营提供参考。
应用场景
短视频智能审核核心应用场景如下，覆盖平台主流风控需求：
UGC投稿审核：针对普通用户上传短视频，全自动筛查色情、暴力、违规导向、侵权等内容，实时拦截风险稿件，保障公域内容合规。
电商带货审核：识别短视频虚假宣传、违禁词、违规营销、夸大功效等营销类违规内容，规避带货合规风险。
官方内容预审：针对媒体、政务、企业账号发布视频，前置校验内容严谨性，避免舆论风险，维护品牌公信力。
二次创作审核：检测混剪、搬运、抄袭类短视频，防范版权侵权与低质同质化内容传播。
流量分发审核：对热门、高播放短视频进行二次复核，杜绝违规内容随流量扩散，稳定平台内容生态。
API介绍
请求说明
| 名称 | 类型 | 必须 | 说明 |
|---|---|---|---|
| name | String | 是 | 视频名称 |
| videoUrl | String | 是 | 视频URL地址。支持mp4、avi、flv、mov，视频时长不超过5分钟，大小在30MB以内 |
| extInfo | String | 否 | 用户自定义字段，此字段会展示在审核员页面以帮助审核人员更好的判断视频内容是否合规，示例：[ { "subject": "漫展信息", "fields": [ { "title": "漫展", "value": "杭州动漫展" }, { "title": "UID", "value": "ae020798-b1b3-4db0-83b7-0f3907b9b194" }, { "title": "来源", "value": "自拍" } ] }, { "subject": "地区", "fields": [ { "title": "杭州市", "value": "3456789" } ] } ] |
戳这里查看详情
返回样例
{
"msg": "成功",//返回码对应描述
"code": 200,//返回码，详见返回码说明
"taskNo": "196221445211500016691377",//本次请求号
"data": {
"uuid": "",
"conclusion": "合规",//审核结果描述，可取值：合规、不合规、疑似
"conclusionType": 1,//审核结果，可取值：1 合规，2 不合规，3 疑似， 4 审核失败
"isHitMd5": false,//是否命中视频黑库MD5提示，true:命中 false:未命中
"msg": "未命中视频黑库",//命中MD5提示
"frames": [
{
"conclusionType": 2,//帧审核结果，可取值：1 合规，2 不合规，3 疑似， 4 审核失败
"conclusion": "不合规",//帧审核结果描述，可取值：合规、不合规、疑似
"frameTimeStamp": 0,//帧时间戳
"frameUrl": "xxxxx",//帧url地址
"frameThumbnailUrl": "xxxxx",//帧缩略图url地址
"data": [//各维度明细审核结果 合格无返回
{
"conclusionType": 2,
"conclusion": "不合规",
"type": 5,//审核主类型，0:违禁图库、1：色情识别、3：恶心图识别、4:广告、6：图像质量、7：用户图像黑名单、8：用户图像白名单、10：用户头像审核、11：百度违禁词库、12：图文审核、13:自定义文本黑名单、14:自定义文本白名单、15:EasyDL自定义模型、21：违禁识别、22：直播场景审核
"subType": 1,//详见subType说明
"msg": "存在公众人物不合规",//不合规项描述信息
"stars": [//命中人脸的信息
{
"probability": 0.96015228271484,//人脸相似度
"name": "圆圆" //人名
}
]
},
{
"conclusionType": 2,
"conclusion": "不合规",
"probability": 0.99330544,//不合规项置信度
"type": 4,
"subType": 0,
"msg": "存在watermark不合规"
},
{
"conclusionType": 2,
"conclusion": "不合规",
"type": 13,
"subType": 0,
"msg": "存在自定义文本黑名单不合规",
"hits": [//命中信息
{
"datasetName": "#################111",//违规项目所属数据集名称
"words": [//送检文本命中词库的关键词
"好看视频",
"好看视频"
],
"modelHitPositions":"",//送检文本命中模型的详细信息，包含位置信息及置信度信息。位置信息：命中模型的违规内容在送检原文中的位置（从0开始计算）：“开始位置”、“结束位置”；置信度信息：命中模型对应的置信度分数（范围：0至1，数字越大，可能性越高）。返回示例见下方“成功响应示例——不合规”部分
"wordHitPositions":[//送检文本命中词库的详细信息，为Object的列表，包含words、positions、label三个字段，详细描述如下表所示。返回示例见下方“成功响应示例——不合规”部分
{
"keyword":"",//送检文本命中词库的关键词
"positions":"",//关键词在送检原文中的位置（从0开始计算）：分别为“起始位置”，“结束位置”
"label":""//关键词命中的细分标签
}
],
"modelName":"",//命中自定义模型名称
"score":"",//命中自定义模型置信度
"modelId":"",//命中自定义模型ID
"label":""//命中自定义模型标签名称
}
]
}
]
}
],
"conclusionTypeGroupInfos": [//审核结论汇总
{
"msg": "存在watermark不合规",//一级违规类型描述信息
"typeInfo": {
//一级违规类型描述
"type": "广告"
},
"subTypeInfoList": [//二级违规列表。timestamp：帧时间戳;subType：二级违规类型描述
{
"subType": "watermark",
"timestamp": 0
},
{
"subType": "watermark",
"timestamp": 3033
}
]
},
{
"msg": "存在公众人物不合规",
"typeInfo": {
"type": "信息识别"
},
"subTypeInfoList": [
{
"subType": "公众人物",
"timestamp": 0
}
]
}
]
}
}
