API 场景最佳实践:UGC内容检测

简介: 近年来随着UGC的兴起,内容审查变得越来越重要,而纯人工的审核方式已经很难跟上业务的发展需要,因此机器辅助审核应运而生。 本文主要以iOS Demo的形式,介绍如何使用阿里云内容审核API进行图片、视频等内容的涉黄、涉政等检测。

UGC内容检测API实践

近年来随着UGC的兴起,内容审查变得越来越重要,而纯人工的审核方式已经很难跟上业务的发展需要,因此机器辅助审核应运而生。
本文主要以iOS Demo的形式,介绍如何使用阿里云内容审核API进行图片、视频等内容的涉黄、涉政等检测。

项目地址

项目地址

设计概要

该demo模块及类设计如下图所示:

主要分应用模块及服务模块。
AliyunContentDetectService为阿里云服务service,提供统一的图片及视频检测接口。
AliyunContentDetectTask为封装阿里云服务的具体task。
BMViewController为服务入口界面。
BMImageAndVideoDetectViewController为内容检测界面。
应用模块及服务模块共同依赖AFNetworking等第三方库。

使用说明

修改配置

下载本项目代码,用Xcode打开Example中的AliyunContentDetect.xcworkspace工程,并修改如下所示配置

- (BOOL)application:(UIApplication *)application didFinishLaunchingWithOptions:(NSDictionary *)launchOptions
{
#pragma mark 这里设置阿里云的accesskey及secret(需要去阿里云注册账号及开通相关服务)
[AliyunContentDetectService setAccessKey:@"set accessKey" secretKey:@"set secret"];
return YES;
}

编译执行

编译运行,如果提示pod相关错误,可以执行pod install尝试修复
正常情况下界面效果如下

点击相应选项能够进入检测详情页面
图片鉴黄界面如下图所示,顶部输入栏允许输入图片地址,点完成后将在图片展示区添加一张图片
点击图片,开始检测,检测结果将在底部文本框显示

图片鉴黄示例

图片涉政检测示例

视频涉黄检测如下图所示,与图片鉴黄类似,但是视频鉴黄不能马上显示结果,需要30s轮询一次检测结果

视频鉴黄示例

接口调用分析

在阿里云的管理控制台我们可以看到接口调用情况及内容检测结果。

阿里云接口文档

阿里云接口文档

使用效果说明

实际使用发现,图片、视频涉黄、涉政检测准确度较高,能起到很好的辅助审核的作用。
ocr识别结果不算太理想,但是如果结合客户端一些手段做类似银行卡识别、身份证识别,效果应该还是可以的。
logo识别、不良场景识别等感觉应用场景有限,这里没有细致测试。

目录
相关文章
|
2月前
|
JSON 算法 安全
探索RESTful API设计的最佳实践
【9月更文挑战第2天】在数字化时代的浪潮中,后端开发如同搭建一座桥梁,连接着用户与数据的无限可能。本文将深入探讨如何打造高效、可维护的RESTful API,从资源命名到状态码的巧妙运用,每一个细节都隐藏着提升用户体验的智慧。你将学会如何在浩瀚的代码海洋中,用简洁明了的设计原则,引领用户安全抵达数据的彼岸。让我们一起启航,探索API设计的奥秘,让后端开发成为艺术与科学的完美结合。
|
8天前
|
数据可视化 API 索引
ES常见Index API操作最佳实践!
【10月更文挑战第21天】
35 1
ES常见Index API操作最佳实践!
|
2月前
|
JSON 前端开发 API
打造高效后端:RESTful API 设计的最佳实践
【9月更文挑战第14天】在数字化时代,后端开发是构建强大、灵活和可维护应用程序的基石。本文将深入探讨如何设计高效的RESTful API,包括清晰的资源定义、合理的HTTP方法使用、URL结构规划、状态码的准确返回以及数据格式的设计。通过这些实践,开发者能够创建出既符合行业标准又易于维护和扩展的API,为前端提供强大的数据支持,确保整个应用的稳定性和性能。
164 74
|
5天前
|
API 数据安全/隐私保护 开发者
探索RESTful API设计的最佳实践
【10月更文挑战第25天】在数字时代的浪潮中,API成为了连接不同软件组件的桥梁。本文将深入探讨如何设计高效的RESTful API,通过实际代码示例揭示背后的逻辑和结构之美。我们将从基础原则出发,逐步展开到高级概念,旨在为读者提供一套完整的设计蓝图。
|
29天前
|
机器学习/深度学习 PyTorch 算法框架/工具
揭秘深度学习中的微调难题:如何运用弹性权重巩固(EWC)策略巧妙应对灾难性遗忘,附带实战代码详解助你轻松掌握技巧
【10月更文挑战第1天】深度学习中,模型微调虽能提升性能,但常导致“灾难性遗忘”,即模型在新任务上训练后遗忘旧知识。本文介绍弹性权重巩固(EWC)方法,通过在损失函数中加入正则项来惩罚对重要参数的更改,从而缓解此问题。提供了一个基于PyTorch的实现示例,展示如何在训练过程中引入EWC损失,适用于终身学习和在线学习等场景。
42 4
揭秘深度学习中的微调难题:如何运用弹性权重巩固(EWC)策略巧妙应对灾难性遗忘,附带实战代码详解助你轻松掌握技巧
|
9天前
|
缓存 监控 测试技术
获取API接口数据的最佳实践详解
在开发过程中,与API进行交互是获取数据和服务的关键步骤。本文详细介绍了10个最佳实践,包括明确需求和文档、错误处理、数据验证、性能优化、安全性、日志和监控、版本控制、代码复用和维护、测试以及遵守法律和道德规范,帮助开发者更高效地从API获取数据,确保数据的准确性、安全性和性能。
|
2月前
|
API 网络架构 UED
构建RESTful API的最佳实践
【8月更文挑战第54天】在数字化时代,RESTful API已成为连接不同软件系统、提供数据服务的关键桥梁。本文将深入探讨如何构建高效、可维护的RESTful API,涵盖设计原则、安全策略和性能优化等关键方面。通过具体代码示例,我们将一步步展示如何实现一个简洁、直观且功能强大的API。无论你是新手还是有经验的开发者,这篇文章都将为你提供宝贵的指导和启示。
76 33
|
28天前
|
存储 缓存 API
构建高效后端:RESTful API 设计的最佳实践
【10月更文挑战第2天】在数字化时代,后端开发是连接用户与数据的桥梁。本文将深入探讨如何设计一个高效、易于维护的后端系统,特别是围绕RESTful API的设计原则和最佳实践。我们将从基础概念出发,逐步深入到实际案例分析,最终通过代码示例具体展示如何实现这些设计原则。无论你是初学者还是有经验的开发者,这篇文章都将为你提供价值,帮助你构建更优秀的后端服务。
58 10
|
20天前
|
XML JSON API
深入理解RESTful API设计:最佳实践与实现
【10月更文挑战第9天】深入理解RESTful API设计:最佳实践与实现
31 1
|
30天前
|
存储 缓存 中间件
构建高效RESTful API:最佳实践与技巧
构建高效RESTful API:最佳实践与技巧