API 场景最佳实践:UGC内容检测

简介: 近年来随着UGC的兴起,内容审查变得越来越重要,而纯人工的审核方式已经很难跟上业务的发展需要,因此机器辅助审核应运而生。 本文主要以iOS Demo的形式,介绍如何使用阿里云内容审核API进行图片、视频等内容的涉黄、涉政等检测。

UGC内容检测API实践

近年来随着UGC的兴起,内容审查变得越来越重要,而纯人工的审核方式已经很难跟上业务的发展需要,因此机器辅助审核应运而生。
本文主要以iOS Demo的形式,介绍如何使用阿里云内容审核API进行图片、视频等内容的涉黄、涉政等检测。

项目地址

项目地址

设计概要

该demo模块及类设计如下图所示:

主要分应用模块及服务模块。
AliyunContentDetectService为阿里云服务service,提供统一的图片及视频检测接口。
AliyunContentDetectTask为封装阿里云服务的具体task。
BMViewController为服务入口界面。
BMImageAndVideoDetectViewController为内容检测界面。
应用模块及服务模块共同依赖AFNetworking等第三方库。

使用说明

修改配置

下载本项目代码,用Xcode打开Example中的AliyunContentDetect.xcworkspace工程,并修改如下所示配置

- (BOOL)application:(UIApplication *)application didFinishLaunchingWithOptions:(NSDictionary *)launchOptions
{
#pragma mark 这里设置阿里云的accesskey及secret(需要去阿里云注册账号及开通相关服务)
[AliyunContentDetectService setAccessKey:@"set accessKey" secretKey:@"set secret"];
return YES;
}

编译执行

编译运行,如果提示pod相关错误,可以执行pod install尝试修复
正常情况下界面效果如下

点击相应选项能够进入检测详情页面
图片鉴黄界面如下图所示,顶部输入栏允许输入图片地址,点完成后将在图片展示区添加一张图片
点击图片,开始检测,检测结果将在底部文本框显示

图片鉴黄示例

图片涉政检测示例

视频涉黄检测如下图所示,与图片鉴黄类似,但是视频鉴黄不能马上显示结果,需要30s轮询一次检测结果

视频鉴黄示例

接口调用分析

在阿里云的管理控制台我们可以看到接口调用情况及内容检测结果。

阿里云接口文档

[阿里云接口文档]

使用效果说明

实际使用发现,图片、视频涉黄、涉政检测准确度较高,能起到很好的辅助审核的作用。
ocr识别结果不算太理想,但是如果结合客户端一些手段做类似银行卡识别、身份证识别,效果应该还是可以的。
logo识别、不良场景识别等感觉应用场景有限,这里没有细致测试。

目录
相关文章
|
1月前
|
存储 监控 安全
132_API部署:FastAPI与现代安全架构深度解析与LLM服务化最佳实践
在大语言模型(LLM)部署的最后一公里,API接口的设计与安全性直接决定了模型服务的可用性、稳定性与用户信任度。随着2025年LLM应用的爆炸式增长,如何构建高性能、高安全性的REST API成为开发者面临的核心挑战。FastAPI作为Python生态中最受青睐的Web框架之一,凭借其卓越的性能、强大的类型安全支持和完善的文档生成能力,已成为LLM服务化部署的首选方案。
|
1月前
|
供应链 搜索推荐 数据挖掘
探秘京东 API 接口的神奇应用场景
京东API如同数字钥匙,助力商家实现商品、库存、订单等多平台高效同步,提升效率超80%。支持物流实时追踪,增强用户满意度;赋能精准营销与数据分析,决策准确率提升20%以上,全面优化电商运营。
119 1
|
2月前
|
人工智能 运维 监控
阿里云 API 聚合实战:破解接口碎片化难题,3 类场景方案让业务响应提速 60%
API聚合破解接口碎片化困局,助力开发者降本增效。通过统一中间层整合微服务、第三方接口与AI模型,实现调用次数减少60%、响应提速70%。阿里云实测:APISIX+函数计算+ARMS监控组合,支撑百万级并发,故障定位效率提升90%。
271 0
|
2月前
|
数据采集 缓存 API
小红书笔记详情 API 实战指南:从开发对接、场景落地到收益挖掘(附避坑技巧)
本文详解小红书笔记详情API的开发对接、实战场景与收益模式,涵盖注册避坑、签名生成、数据解析全流程,并分享品牌营销、内容创作、SAAS工具等落地应用,助力开发者高效掘金“种草经济”。
小红书笔记详情 API 实战指南:从开发对接、场景落地到收益挖掘(附避坑技巧)
|
2月前
|
移动开发 安全 小程序
淘宝/天猫:使用支付宝API实现多场景支付,覆盖用户偏好
本文详解如何通过支付宝API在淘宝、天猫等平台实现多场景支付,覆盖APP、PC、H5及小程序,结合用户偏好动态配置分期、快捷支付等功能,提升转化率与体验。内容涵盖API核心功能、技术示例(Python)、安全实践与性能优化,确保开发高效可靠。
472 3
|
2月前
|
监控 搜索推荐 数据挖掘
小红书:对接话题挑战API激发UGC创作,打造爆款内容
小红书话题挑战API助力品牌高效激发UGC,通过自动化创建活动、精准推送与数据分析,降低运营门槛,提升爆款率。结合吸引力主题、激励机制与裂变传播,实现内容生态繁荣,推动品牌增长。
163 0
监控 安全 API
239 0
|
2月前
|
数据采集 缓存 API
1688 API 实战指南:搞定批发场景的 3 大核心难题(附签名代码与避坑清单)
本文深入解析了1688 API 在批发场景下的三大核心难题及解决方案,涵盖签名机制、商品数据处理与订单同步等高频问题,提供可复用代码与避坑清单,助你高效对接1688平台。
|
3月前
|
人工智能 JSON 前端开发
Mock 在 API 研发中的痛点、价值与进化及Apipost解决方案最佳实践
在 API 开发中,Mock 技术能有效解决后端接口未就绪带来的开发阻碍,保障前端独立高效开发。本文通过电商平台支付接口的实例,分析了常见 Mock 方案的局限性,并深入介绍了 Apipost 提供的灵活 Mock 能力:从固定值返回,到使用内置函数生成动态数据,再到自定义函数处理复杂逻辑,最后实现根据请求参数返回不同响应。这些能力不仅提升了开发效率,也增强了测试的全面性,为前后端协作提供了更高效的解决方案。
186 3
|
3月前
|
供应链 搜索推荐 API
苏宁易购 API 接口:开启苏宁易购全场景零售数据融合新时代
苏宁易购凭借先进的API技术,推动全场景零售数据融合,实现线上线下无缝连接。通过标准化接口,高效整合销售、用户与供应链数据,提升运营效率与消费体验。微服务架构与实时数据处理技术支撑高并发、弹性扩展,赋能开发者共建智慧零售生态。API不仅助力企业降本增效,更为消费者带来智能化、个性化服务,引领零售业迈入数据驱动新时代。
61 0