智能直播审核方案:视频云智能业务截帧策略

简介: 近些年来,视频直播快速发展,国家对于直播内容监管的要求日益严格,如何在满足业务需求的情况下,选择成本最优的智能审核方案,是每个直播平台面对的难题。本文介绍如何以最优成本配置直播审核模板。 功能介绍 一、审核场景 审核场景包含对直播画面的涉黄、暴恐涉政、广告、不良场景四大维度进行审核。

近些年来,视频直播快速发展,国家对于直播内容监管的要求日益严格,如何在满足业务需求的情况下,选择成本最优的智能审核方案,是每个直播平台面对的难题。本文介绍如何以最优成本配置直播审核模板。

功能介绍

一、审核场景

审核场景包含对直播画面的涉黄、暴恐涉政、广告、不良场景四大维度进行审核。

  • 智能监黄:识别直播中的色情内容。
  • 暴恐涉政识别:识别直播中的暴恐涉政内容。
  • 广告识别:识别直播中的广告信息。
  • 不良场景识别:识别直播中出现的黑屏、黑边、昏暗画面,画中画,抽烟,打架等不良场景图片。

二、截帧频率

  • 高频截帧:对于内容风险高的业务如核心主播或交友等类型,采用高频截帧方案,截帧频率为1-2秒,大幅度规避危险内容曝光的可能性。
  • 关键帧截帧:对于业务风险相对不高的业务如游戏直播或赛事直播,采用关键帧截帧方案,截帧频率为3s,可做到优化成本。

方案介绍

以下是高频率智能审核方案的流程,直播流经过推流后到达阿里云直播服务,进入智能的业务截帧策略决策系统,来判断是否属于高危业务,如果是高危业务,就进行高频截帧;反之,则关键帧截帧即可。最后通过视频云直播审核服务,来输出机器审核结果,配合人工审核,确保最大程度上捕获违禁内容。

image

接入步骤

  1. 开通直播服务,并完成默认的OSS授权。
  2. 准备一个HTTP server作为接收回调的服务。
  3. 通过 视频直播控制台 配置审核策略。
  4. 配置 回调地址。
  5. 开始直播审核。

详情接入步骤见文档:https://help.aliyun.com/document_detail/99734.html

阿里云开年Hi购季,视频直播、视频点播、CDN全线折扣,错过这次,再等一年!点击了解活动详情

image

image

目录
相关文章
|
机器学习/深度学习 网络安全 算法框架/工具
在本地利用服务器显卡跑代码
在本地利用服务器显卡跑代码
2143 0
|
17天前
|
缓存 编解码 前端开发
通义千问Qwen3.7‑Flash完整教程:功能详解、计费规则、API接入配置与业务选型指南
随着AI应用大规模落地,大量线上业务的核心诉求不再是超高难度深度推理,而是稳定、低延迟、低成本的标准化任务处理。文本分类、内容摘要、图片信息提取、基础问答、轻量检索智能体这类场景,请求并发量大,单次任务逻辑简单,如果直接选用高阶大模型,会带来极高的推理成本。Qwen3.7‑Flash是通义千问3.7系列原生视觉语言轻量化高速多模态模型,相比前代版本,在多模态理解、万物识别、空间感知、智能体执行稳定性上完成全面升级,专门面向高吞吐、低延迟、轻量化图文任务打造,最大支持256K Token上下文窗口,原生支持文本、图片输入,适配批量离线处理与线上实时请求。很多开发者初次接触这款高速模型,很容易混淆
181 0
|
前端开发 JavaScript 测试技术
探索现代前端工程化工具与流程:提升开发效率和项目质量
探索现代前端工程化工具与流程:提升开发效率和项目质量
探索现代前端工程化工具与流程:提升开发效率和项目质量
|
安全 jenkins 网络安全
Jenkins中node节点添加之SSH方式2
Jenkins中node节点添加之SSH方式2
1538 1
|
5月前
Qoder兑换码怎么使用?在阿里云云市场购买的Qoder Teams授权码,兑换码获取及使用教程
Qoder Teams兑换码需在阿里云云市场购买,仅限通过兑换码创建的组织使用。阿里云Qoder官方活动:https://t.aliyun.com/U/OTnSAH 支持创建新组织时兑换,或为已有组织余额充值。席位月额度自兑换起两年有效,资源包有效期三个月,不可转让退款。
704 1
|
存储 人工智能 JSON
OpenClaw-Observability:基于 DuckDB 构建 OpenClaw 的全链路可观测体系
为解决OpenClaw等AI Agent“Done”回复背后的黑盒问题,我们基于DuckDB开发了轻量可观测插件:通过Hook采集关键节点事件,建模为结构化Trace链路,异步写入本地或云上DuckDB,提供瀑布图式执行视图、指标分析与安全告警,让Agent从不可见变为可追踪、可解释、可优化。
|
存储 编解码 监控
针对3-15分钟视频的抽帧策略:让Qwen2.5 VL 32B理解视频内容
针对3-15分钟视频,提出高效抽帧策略:通过每5-10秒定间隔或关键帧检测方法,提取30-100帧关键图像,结合时间均匀采样与运动变化捕捉,降低冗余,提升Qwen2.5 VL 32B对视频内容的理解效率与准确性。
|
人工智能 缓存 NoSQL
【深度】企业 AI 落地实践(四):如何构建端到端的 AI 应用观测体系
本文探讨了AI应用在实际落地过程中面临的三大核心问题:如何高效使用AI模型、控制成本以及保障输出质量。文章详细分析了AI应用的典型架构,并提出通过全栈可观测体系实现从用户端到模型推理层的端到端监控与诊断。结合阿里云的实践经验,介绍了基于OpenTelemetry的Trace全链路追踪、关键性能指标(如TTFT、TPOT)采集、模型质量评估与MCP工具调用观测等技术手段,帮助企业在生产环境中实现AI应用的稳定、高效运行。同时,针对Dify等低代码平台的应用部署与优化提供了具体建议,助力企业构建可扩展、可观测的AI应用体系。
|
机器学习/深度学习 存储 文字识别
阿里国际Ovis2系列模型开源:多模态大语言模型的新突破
Ovis是阿里巴巴国际化团队提出的新型多模态大模型架构,通过巧妙地将视觉和文本嵌入进行结构化对齐,为解决模态间嵌入策略差异这一局限性提供了方案。
1374 2
阿里国际Ovis2系列模型开源:多模态大语言模型的新突破
|
iOS开发 索引 MacOS
mac文件搜索工具
【10月更文挑战第11天】
2382 2