这是一个信息爆炸的时代,数据表明,Facebook每日新增600T数据,Twitter每日新增1.4亿条信息,Youtube每分钟新增300小时视频。然而,目前的互联网络缺乏内容安全管控经验,缺乏内容安全检测技术,安全管控耗费大量成本。海量的数据内容如何检测安全,如何管理得当?在这样的大背景下,基于深度学习的内容安全检测与管控尤为实用且可行。
通常需要安全检测与管控的内容有文本、图片、视频、网站这四种形式。由于Open API和插件开发,使该技术更加通用,降低接入成本,一键开通服务,提供简单方便的审核平台,所见即所得。
针对快速接入,管控尺度不一,行业特性不同,个性化服务这些困难都有具体的解决思路和办法。
同样有待提升和改进的技术也存在,如单一算法覆盖面有限,模型升级与响应速度有待提升等等。内容安全检测的能力边界清晰,与CDN配合,视频直播的鉴黄,与OSS配合视频文件检测这些想法也都在计划内。
级