《阿里云云通信短信服务安全白皮书》——安全架构——七、 内容安全

简介: 《阿里云云通信短信服务安全白皮书》——安全架构——七、 内容安全

七、 内容安全

 

阿里云云通信基于多年的风险防控对抗经验、丰富的黑灰产数据积累及大数据分析建模能力,在内容安全领域沉淀了可用、可信、可靠的产品能力,以保障阿里云云通信云平台和客户业务安全稳定运行。

 

阿里云云通信内容安全产品在短信服务的各个环节进行保护,将阿里云云通信在自然语言识别、大数据实时计算、大数据行为分析等多种技术全面结合,保障风险发现的准确性、全面性、及时性。

 

image.png

阿里云云通信积累了千万级风险画像标签和几百个不同场景风险库,同时积累了大量模型算法能力用于识别内容风险。无论是几个字的签名,还是几十个字的模板、短信内容等,阿里云云通信利用丰富的风险对抗经验及强大的机器学习能力,能够实现情报的准确搜集、异常行为的快速发现、黑灰产行为场景的高效识别等,为客户提供稳定、安全的服务。主要覆盖的风险识别场景有:涉诈、涉赌、涉黄、禁止行业、限制行业、低俗、恶意行为等。

 

1) 对用户内容安全的保障,从数据能力积累上主要涉及的模型有四类:

 

变异还原类模型该类模型通过将不同的形近字、音近字、图标、符号、拼音、外文等变异信息或干扰信息进行还原,以识别黑灰产团伙真实要表达的内容。

 

语义识别类模型通过对文本内容的语义进行建模分析,识别黑灰产在文本内容中表达的真实意图、场景等。

 

特征抽取类模型通过对文本内容的要素进行建模分析,识别黑灰产在文本内容中表达的关键特征。

 

风险识别类模型通过对文本内容的场景进行建模分析,识别黑灰产在文本内容表达中可能存在的潜在风险。


2) 对用户内容安全保障从驱动机制上分为主动检测、被动防御两种模式:

 

被动防御主要是基于阿里云云通信自身的业务场景及平台沉淀,在用户使用平台业务过程中及时识别产生的风险,并结合关联信息进行实时或者离线分析识别后进行处置。

 

主动检测主要是通过情报中心主动搜集外部违法违规风险信息,提取内容风险特征及场景,识别潜在威胁主动提升应对能力。

 

被动防御和主动检测互为补充,前者作为业务开展过程中发现安全事件必要采取的措施,后者补充提升被动发现的滞后性不足,并引入更广泛的风险特征和场景定义,提升风险预警的精准性,二者结合形成全面、及时和有效的安全识别能力。

 

3) 对用户内容安全保障从业务环节上分为事前、事中、事后三个重要阶段进行防控和治理。

 

事前通过主动防御体系中的情报中心,及时引入安全变形和关联风险事件,针对时事热点事件可能引发的风险进行布防。

 

在短信发送过程中,通过三层过滤体系进行风险防控。首先,通过数据中心和风险识别模块在策略中心组装形成实时规则进行风险拦截。其次,依据风险分级分类规则将识别结果分流到系统处置模块,结合人工审核流程形成二次识别判断。最后校验结果直接触发处罚中心对风险实体对象进行处置,包括权限限制、业务关停等,同时对相似内容进行传播识别和干预。

 

• 短信发送后,阿里云云通信依旧会对离线数据、模型结果进行风险聚类分析,同时结合情报中心不断收集的外部情报,对可能漏出的风险或潜在新型风险进行追溯处置。

相关文章
|
1月前
|
云安全 机器学习/深度学习 人工智能
阿里云安全Black Hat技术开源大揭秘,AI安全检测的工程化实践
阿里云安全 LLMDYara框架开源核心思路,赋能云安全产品!
|
2月前
|
云安全 人工智能 安全
|
6月前
|
监控 Java Nacos
阿里二面:10亿级分库分表,如何丝滑扩容、如何双写灰度?阿里P8方案+ 架构图,看完直接上offer!
阿里二面:10亿级分库分表,如何丝滑扩容、如何双写灰度?阿里P8方案+ 架构图,看完直接上offer!
阿里二面:10亿级分库分表,如何丝滑扩容、如何双写灰度?阿里P8方案+ 架构图,看完直接上offer!
|
5月前
|
存储 NoSQL Redis
阿里面试:Redis 为啥那么快?怎么实现的100W并发?说出了6大架构,面试官跪地: 纯内存 + 尖端结构 + 无锁架构 + EDA架构 + 异步日志 + 集群架构
阿里面试:Redis 为啥那么快?怎么实现的100W并发?说出了6大架构,面试官跪地: 纯内存 + 尖端结构 + 无锁架构 + EDA架构 + 异步日志 + 集群架构
阿里面试:Redis 为啥那么快?怎么实现的100W并发?说出了6大架构,面试官跪地: 纯内存 + 尖端结构 +  无锁架构 +  EDA架构  + 异步日志 + 集群架构
|
监控
阿里商旅账单系统架构设计实践问题之对账模型包括内容问题如何解决
阿里商旅账单系统架构设计实践问题之对账模型包括内容问题如何解决
165 2
|
存储 运维 5G
基于阿里云数据库 SelectDB 内核 Apache Doris 的实时/离线一体化架构,赋能中国联通 5G 全连接工厂解决方案
数据是 5G 全连接工厂的核心要素,为支持全方位的数据收集、存储、分析等工作的高效进行,联通 5G 全连接工厂从典型的 Lambda 架构演进为 All in [Apache Doris](https://c.d4t.cn/vwDf8R) 的实时/离线一体化架构,并凭借 Doris 联邦查询能力打造统一查询网关,数据处理及查询链路大幅简化,为联通 5G 全连接工厂带来数据时效性、查询响应、存储成本、开发效率全方位的提升。
1206 4
基于阿里云数据库 SelectDB 内核 Apache Doris 的实时/离线一体化架构,赋能中国联通 5G 全连接工厂解决方案
|
数据格式
阿里商旅账单系统架构设计实践问题之系统设计中的清结算系统问题如何解决
阿里商旅账单系统架构设计实践问题之系统设计中的清结算系统问题如何解决
184 1
|
Cloud Native 数据库 对象存储
《阿里云产品四月刊》—内容安全 新功能
阿里云瑶池数据库云原生化和一体化产品能力升级,多款产品更新迭代
148 4
|
搜索推荐 Java
阿里商旅账单系统架构设计实践问题之需要账单数据表达式引擎问题如何解决
阿里商旅账单系统架构设计实践问题之需要账单数据表达式引擎问题如何解决
100 0