内容安全自助审核应如何操作?

本文涉及的产品
内容审核增强版开发者实践包,10万次资源包1年有效
简介: OSS内容检测任务执行完成后,您可以在控制台查询检测结果,并根据检测结果执行人工抽检和审核。本文以增量检测结果页面为例介绍了结果查询和自助审核的具体操作,存量检测结果的相关操作与之类似。

云栖号快速入门:【点击查看更多云产品快速入门】
不知道怎么入门?这里分分钟解决新手入门等基础问题,可快速完成产品配置操作!

OSS内容检测任务执行完成后,您可以在控制台查询检测结果,并根据检测结果执行人工抽检和审核。本文以增量检测结果页面为例介绍了结果查询和自助审核的具体操作,存量检测结果的相关操作与之类似。

操作步骤

1.登录内容安全控制台
2.前往OSS违规检测 > 增量扫描页面,并打开扫描结果页签。
3.设置查询条件,查询指定结果。
您可以通过以下筛选项过滤结果数据,直接查看您希望看到的结果:图片/视频、涉黄/涉政、分值范围、识别结果、Bucket、Key值、上传的时间范围。其中,

  • 分值范围:每一张图片下方会有违规检测服务检测出的风险分值,分值范围是0~100,分值越高,代表文件违规的概率越大。
  • 识别结果:违规、疑似、正常。
  • Bucket:筛选扫描的Bucket。
  • Key:Bucket中文件(或文件夹)的完整路径。

image

4.检测内容的下方会显示与该内容对应的操作项。您可以进行以下操作:

  • 单击违规并删除,可将图片/视频从内容安全控制台和OSS Bucket中一并删除。
  • 单击正常并忽略,则忽略该检测结果。忽略后该图片/视频将不再在控制台展示,并不影响存储在OSS Bucket中的图片/视频。
  • 选中一个或多个图片/视频后,单击违规并删除可将选中的图片/视频全部删除;单击正常并忽略可将选中的图片/视频全部忽略。
  • 若您设置了自动冻结功能,则还可以在选中图片/视频后单击正常并解冻,将已冻结的图片/视频解冻。
  • 单击图片/视频,可以查看其详细信息,包括文件创建时间、Key值、所在Bucket。

image

本文来自 阿里云文档中心 内容安全 自助审核

【云栖号在线课堂】每天都有产品技术专家分享!
课程地址:https://yqh.aliyun.com/zhibo

立即加入社群,与专家面对面,及时了解课程最新动态!
【云栖号在线课堂 社群】https://c.tb.cn/F3.Z8gvnK

目录
相关文章
|
设计模式 人工智能 缓存
B站员工猝死,审核员之殇,谁该反省?谁该惭愧?技术层面解构内容安全审核系统(python3)
猝死,又见猝死,可怜无定河边骨,犹是春闺梦里人!每当有年轻的生命逝去,我们就会感到心中某种撕裂的感觉,惆怅万千,疼痛不已。审核专员,一个我们既熟悉又陌生的岗位,他们的疲惫,不仅仅体现在肉体上重复工作的折磨,而更多的,是精神上处于一种无知无觉的疲惫,想象一下,作为审核员,千帆阅尽之后,感动过你的一切不再感动你,吸引过你的一切不再吸引你,甚至激怒过你的一切都不再激怒你,麻木和怅惘充斥着你的工作和生活,只剩下疲于奔命,惨淡经营。而造成审核员审核过劳的因素之一,就是海量内容审核系统的设计问题。
B站员工猝死,审核员之殇,谁该反省?谁该惭愧?技术层面解构内容安全审核系统(python3)
|
存储 文字识别 自然语言处理
【Spring Cloud】新闻头条微服务项目:文章内容安全审核(新增DFA+OCR过滤敏感词需求)
对文章审核新增加了需求----敏感词过滤,介绍了基于NFA的文本敏感词过滤及OCR提取图片文字的原理及实现,最后将文章审核代码做了合并。
450 0
【Spring Cloud】新闻头条微服务项目:文章内容安全审核(新增DFA+OCR过滤敏感词需求)
|
算法 安全 Java
【Spring Cloud】新闻头条微服务项目:文章内容安全审核(需求分析及前期准备)
主要介绍了文章审核的流程以及如何在移动端文章微服务实现保存文章远程接口,为下一篇文章做准备。
414 0
【Spring Cloud】新闻头条微服务项目:文章内容安全审核(需求分析及前期准备)
|
安全 Java 开发工具
阿里云内容安全java SDK实现本土图片审核
内容安全是一款多媒体内容智能识别服务,支持对图片、视频、文本、语音等对象进行多样化场景检测,帮助您有效降低内容违规风险。 此篇文章将简单介绍通过javasdk实现本地图片的安全检测
817 0
阿里云内容安全java SDK实现本土图片审核
|
机器学习/深度学习 安全 数据挖掘
网易易盾升级内容安全体系 发布智能审核管理系统
网易易盾升级内容安全体系 发布智能审核管理系统
网易易盾升级内容安全体系 发布智能审核管理系统
|
安全 计算机视觉
相亲交友app开发,实现审核保证内容安全
相亲交友app开发需要考虑的,是如何进行直播内容审核和用户评论审核。直播视频的内容量比较大,而且因为是直播的原因,对延迟的要求很高,就对图像处理速度提出了很高的要求,实现视频内容审核就是通过视频的每一帧图像进行的。
|
10月前
|
监控 安全 API
02-业务安全-ACA-01-内容安全
02-业务安全-ACA-01-内容安全
98 0
|
文字识别 算法 安全
《云上社交行业技术服务白皮书》——第三章 云上社交典型场景与架构——3.3 社交安全——3.3.1 社交内容安全(上)
《云上社交行业技术服务白皮书》——第三章 云上社交典型场景与架构——3.3 社交安全——3.3.1 社交内容安全(上)
422 0
|
安全 对象存储 黑灰产治理
《云上社交行业技术服务白皮书》——第三章 云上社交典型场景与架构——3.3 社交安全——3.3.1 社交内容安全(下)
《云上社交行业技术服务白皮书》——第三章 云上社交典型场景与架构——3.3 社交安全——3.3.1 社交内容安全(下)
320 0
|
机器学习/深度学习 自然语言处理 安全
《阿里云云通信短信服务安全白皮书》——安全架构——七、 内容安全
《阿里云云通信短信服务安全白皮书》——安全架构——七、 内容安全
186 0