网易易盾升级内容安全体系 发布智能审核管理系统-阿里云开发者社区

开发者社区> -技术小能手-> 正文

网易易盾升级内容安全体系 发布智能审核管理系统

简介: 网易易盾升级内容安全体系 发布智能审核管理系统
+关注继续查看

77.gif

内容安全已成为全球性互联网生态治理难题。互联网平台多媒体内容爆发带来海量信息的同时,也泥沙俱下裹挟有大量不良有害信息。

当内容平台发展快速,就会被灰黑产盯上,视作“流量蜜罐”,利用其流量曝光机会,植入涉黄赌毒等不良信息,以及大量垃圾广告等。据不完全统计,2019年,有上千款应用和服务因为内容安全问题而遭遇下架关停等整改,业务发展遭受巨大损失。

2019年12月19日,网易易盾在北京成功举办2019内容安全智能体系发布会,分享易盾对内容安全体系建设的前瞻思考,并正式发布面向智能时代的审核管理系统,有上百位企业内容风控相关人员参加此次活动,共同研讨内容安全体系建设和实践。

据调查,有害垃圾内容占互联网UGC内容量的3%左右。其中最多的是各类非法广告类,其次是涉黄低俗类信息,以及涉赌涉毒信息。随着内容的多媒体融合,5G等信息基础设施的发展,互联网内容也迎来大爆发,内容安全压力愈加严峻。image.jpeg


网易易盾CTO朱浩齐认为,只有行业一起努力,构建出智能驱动、统一联动、个性定制、共建众治的内容体系,才能全面高效地解决内容安全难题。

  • 智能驱动:在新一代内容安全体系中,智能技术起着驱动引擎的作用。目前90%以上的海量实时多媒体内容都可以被智能技术精准识别过滤。自然语义、图像识别、声纹识别等都在内容安全领域有成熟彻底的落地。
  • 统一联动:内容安全需要从源头彻底解决,就需要联动账户安全,全链路联动识别分析。采用验证码、注册保护、登录保护等反作弊技术、内容安全云能力和本地审核管理系统的联动,可以更有效降低有害内容的产生。
  • 个性定制:直播短视频、网络文学、社交传媒等各领域的内容监管规定不同,需要根据产品形态来灵活定制各自的内容安全策略。
  • 共建众治:有害内容是社会性难题。企业需要有效整合政府法律、技术服务、同行联盟、用户等多种力量共同防治,才能有效打击灰黑产,构建风清气正的互联网生态。

image.jpeg

此次,网易易盾还发布了面向智能时代设计的审核管理系统。

在未来很长时间内,内容安全依然是人机协同模式,各大平台需要保有一定规模的人工审核部门。但易盾在调研时,发现由于审核管理长久一直缺乏相应通用规范,操作后台长期得不到研发支持,大多数审核管理系统存在操作繁琐、设计陈旧、功能落后,甚至有些操作需要在多个后台跳转处理的问题。

相比较爆发式的内容增长和日趋严格的监管要求,审核管理系统已成为企业内容安全的最大短板,严重影响了审核效率和安全要求。image.jpeg

网易易盾此次发布的审核管理系统是面向智能时代的审核机制而设计,具有功能丰富、智能高效、轻量灵活、交互友好四大优势。

  • 功能丰富:支持面向内容的预处理、多重审核、质检溯源全生命周期管理;面向不同业务场景如直播音视频、长文档等垂直场景都有专门的视频模式。
  • 智能高效:基于机器学习的聚类审核,同类内容及时预警,审核人员可以快速过滤阻止扩散;高并发支持大规模审核团队同时操作,可智能分组排版。
  • 轻量灵活:无技术支持也可以快速接入,支持SaaS和私有化定制,客户可以灵活自定义内容接口、安全策略、外观、业务模块等。
  • 交互友好:深入审核团队研究交互习惯,优化界面交互、功能排列、操作流程。建立积分勋章等游戏化设计,有效降低审核疲惫。单手操作等无障碍辅助设计,让残障人士也可以轻松操作。

image.jpeg

网易易盾产品总监饶晓艳

网易易盾产品总监饶晓艳表示:“审核人员是企业内容安全的重要保障力量,为公司健康发展付出了很多,非常高兴可以为审核人员设计一套友好有温度的管理系统,让他们的工作更加轻松快捷。”

网易易盾脱胎于网易安全部,扎根内容安全领域已超过20年,2016年对外商用以来,已服务数千家企业,其中不乏OPPO/VIVO、B站、一直播等知名客户,每日过滤有害信息超过十亿条,目前已是国内领先的内容安全和业务安全服务商。image.jpeg

免费体验网易易盾智能审核管理系统

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
技术管理的核心内容 — 提高团队技能
<div id="navigator"> <div class="navigator"></div> </div> <div id="body"> <div id="main"> <div class="main"> <div class="notice tracking-ad"> <div style="line-height:18px"><span style="font
1074 0
linux内存管理--用户空间和内核空间
关于虚拟内存有三点需要注意: 4G的进程地址空间被人为的分为两个部分--用户空间与内核空间。用户空间从0到3G(0xc0000000),内核空间占据3G到4G。用户进程通常情况下只能访问用户空间的虚拟地址,不能访问内核空间的虚拟地址。
678 0
如何使用Terraform管理容器服务Kubernetes集群之-标准版集群
#### 介绍 Terraform 是一款 Infrastructure as Code 的工具,可以将云端资源代码化。关于 Terraform 的基本介绍本文不再赘述,有兴趣的同学可以参考 [《云生态下的基础架构资源管理利器Terraform》](https://yq.aliyun.com/articles/215592) 等云栖社区的优秀文章。
980 0
海量智能元数据管理系统实现解析
一、方案背景 用户存储海量的文档、媒体文件等数据的同时,对文件元数据(Mate)的管理不可或缺。元数据拥有多维度的字段信息,基本信息包含文件大小、创建时间、用户等。随着人工智能的发展,通过AI技术提取文件核心要素也成为文件元数据的重要信息。
9070 0
phpcms sp4系统中内容分表管理实现
phpcms sp4系统是个不错的系统,后台的文件也安排的非常有序,一般是以file的参数的值为文件名+.inc.php文件,里面使用的是switch语句来响应不同的action,以内容管理为例子,内容管理的响应文件是content.inc.php文件 phpcms是可以自定义模型的,这样就涉及到分表的问题,phpcms的做法是将所有模块的主要内容如title,keyword,autho
1091 0
Linux内核分析(三)----初识linux内存管理子系统
原文:Linux内核分析(三)----初识linux内存管理子系统 Linux内核分析(三) 昨天我们对内核模块进行了简单的分析,今天为了让我们今后的分析没有太多障碍,我们今天先简单的分析一下linux的内存管理子系统,linux的内存管理子系统相当的庞大,所以我们今天只是初识,只要对其进行简单的了解就好了,不会去追究代码,但是在后面我们还会对内存管理子系统进行一次深度的分析。
1173 0
VB源码之友升级了(系统内核的升级最近也要推出)
        以前有些懒,虽然用源码之友过程中出现了几次 VB IDE死机(害的要关闭VB IDE,如果没保存就惨了),不过一般免费用户遇不到,那是在专业版中提供的仅对函数内整理的功能。
597 0
1727
文章
0
问答
文章排行榜
最热
最新
相关电子书
更多
《2021云上架构与运维峰会演讲合集》
立即下载
《零基础CSS入门教程》
立即下载
《零基础HTML入门教程》
立即下载