《云上社交行业技术服务白皮书》——第三章 云上社交典型场景与架构——3.3 社交安全——3.3.1 社交内容安全(下)

简介: 《云上社交行业技术服务白皮书》——第三章 云上社交典型场景与架构——3.3 社交安全——3.3.1 社交内容安全(下)

《云上社交行业技术服务白皮书》——第三章 云上社交典型场景与架构——3.3 社交安全——3.3.1 社交内容安全(上) https://developer.aliyun.com/article/1232349?groupCode=supportservice



3.3.1.2.1 OSS违规检测

 

阿里云对象存储OSS 务中的图片、视频、   是否包含色情、

涉政等违规内容

 

检测OSS存储空间中的违规内容,

增量内容自动检测或存量内容手动扫描。

 


OSS违规检测能够检测阿里云对象存储OSS服务中的图片、视频、语音是否包含 色情、涉政等违规内容,并可以自动冻结检测出的违规内容(禁止通过公网访问违规内),帮助您规避可能遇到的内容违规风险。


能介绍


OSS违规检测支持检指定OSS1Bucket中的增量内容和存量内容,即增量扫描 和存量扫描。该功能无需您开发,只需要少许页面配置即可接入使用。


•增扫描开启增量扫描后,当您在OSS1Bucket上传了新的图片、视频、语音 时,内容安全将自动检测新增的图片、视频是否存在违规。增量扫描一次配置即可长 生效。


•存量扫描量扫描目前不支持自动检测,需要您手动创建扫描任务。创建后, 内容安全将在指定时间,一次性扫描您指定的OSS1Bucket已有的图片、视频、语音 是否存在违规。


使用流程

 

image.png

 

3.3.1.2.2 站点检测

 

 

内容风险检测

定期自动检查网站首页或全站中存在的违规内容

支持检测的风险场景如下:

    首页篡改

    色情低俗

    涉政暴恐

    垃圾广告

•    用户自定义关键词

•    用户自定义相似图

 

站点检测服务帮助您定期检查网站首页和全站内容,及时发现您的网站在内容安 全方可能存在的风险(例如,首页篡改、挂马暗链、色情低俗、涉政暴恐等),并 向您展示违规内容的具体地址,帮助您查看和修复。


1、功能描述


站点检测的对象是您的网站上的网页和图片,以URL数量进行计数。在单个网站 的一个检测周期内,站点检测支持的最大检测容量为10万个URL。站点检测包含首页 检测和全站检测功能。


首页检测:定期对您网站的首页进行检测,展示最近一次的检查结果。检查结 果涵盖首页篡改、挂马暗链、色情低俗、涉政暴恐等风险提示,并提供源码、文本、 图片三类呈现方式,供您参照和整改


全站检测:定期对您网站域名下的网页进行自动化全站内容检测,展示最近一 次的检查结果。检查结果涵盖挂马暗链、色情低俗、涉政暴恐等风险提示,并提供源 码、本、图片三类呈现方式,供您参照和整改。


2、使用流程


站点检测服务定期检查您的网站首页和全站内容,及时发现您的网站在内容安全 方面能存在的风险(例如首页篡改、挂马暗链、色情低俗、涉政暴恐等),并向您 展示违规内容的具体地址,帮助您查看和修复。您可以设置消息通知,获取实时的站 点首页风险提醒


在使用站点检测功能之前,您需要先购买站点检测实例。购买实例后,需要将实 例绑到您的站点、添加要检测的网站域名和首页地址、设定首页和全站检测的频 率,并完成网站鉴权。完成设置后,系统将定期按照您设定的频率对首页和全站内容 (包含网页码、文本和图片)进行检测。如果发现有风险,将按照您设定的消息接 收方式通知您,您也可以登录内容安全控制台查看检测结果


image.png

相关文章
|
6月前
|
人工智能 安全 Cloud Native
Nacos 3.0 架构升级,AI 时代更安全的 Registry
随着Nacos3.0的发布,定位由“更易于构建云原生应用的动态服务发现、配置管理和服务管理平台”升级至“ 一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台 ”。
|
6月前
|
存储 设计模式 人工智能
AI Agent安全架构实战:基于LangGraph的Human-in-the-Loop系统设计​
本文深入解析Human-in-the-Loop(HIL)架构在AI Agent中的核心应用,探讨其在高风险场景下的断点控制、状态恢复与安全管控机制,并结合LangGraph的创新设计与金融交易实战案例,展示如何实现效率与安全的平衡。
1171 0
|
3月前
|
存储 监控 安全
132_API部署:FastAPI与现代安全架构深度解析与LLM服务化最佳实践
在大语言模型(LLM)部署的最后一公里,API接口的设计与安全性直接决定了模型服务的可用性、稳定性与用户信任度。随着2025年LLM应用的爆炸式增长,如何构建高性能、高安全性的REST API成为开发者面临的核心挑战。FastAPI作为Python生态中最受青睐的Web框架之一,凭借其卓越的性能、强大的类型安全支持和完善的文档生成能力,已成为LLM服务化部署的首选方案。
|
4月前
|
消息中间件 监控 Cloud Native
高效设计:支持亿级用户社交关系的100W QPS架构方案
面对亿级用户与百万QPS的高并发场景,性能测试成为系统稳定的关键。本文剖析真实业务痛点,详解从接口压测、全链路监控到瓶颈定位的完整性能体系,助你掌握大厂级性能优化能力,从容应对卡顿、宕机等线上挑战。
|
10月前
|
人工智能 运维 安全
AI 安全架构概述
AI 安全架构涵盖数据采集、模型训练、推理部署等阶段,确保安全性、隐私与合规。其核心组件包括数据层、模型层、推理层、应用层和运维层,针对数据安全威胁(如数据投毒)、模型窃取、对抗攻击及系统漏洞等风险,提出数据加密、对抗训练、联邦学习等防御策略,并强调开发前、开发中和部署后的最佳实践,以降低 AI 解决方案的安全风险。
1192 13
|
5月前
|
存储 安全 前端开发
如何开发一套EHS 健康安全环境管理系统?(附架构图+流程图+代码参考)
本文介绍如何开发一套完整的EHS(健康、安全和环境)管理系统,涵盖系统核心模块、技术架构、数据库设计、前后端开发示例及上线建议,帮助企业提升安全管理效率与合规性。
|
5月前
|
传感器 安全 前端开发
如何开发一套EHS健康安全环境管理系统中的风险管理板块?(附架构图+流程图+代码参考)
本文详解企业EHS(健康·安全·环境)系统中的风险管控板块,强调其核心在于构建“识别—评估—巡检—治理—验证”的闭环流程,将风险数据可视化并转化为可落地的行动指引。内容涵盖风险管控的意义、功能边界、系统架构、LEC评估方法、巡检流程、看板设计、开发技巧、落地建议、实现效果及代码参考,帮助技术团队和EHS负责人快速掌握系统搭建要点,提升企业安全管理水平。
|
7月前
|
关系型数据库 MySQL 分布式数据库
Super MySQL|揭秘PolarDB全异步执行架构,高并发场景性能利器
阿里云瑶池旗下的云原生数据库PolarDB MySQL版设计了基于协程的全异步执行架构,实现鉴权、事务提交、锁等待等核心逻辑的异步化执行,这是业界首个真正意义上实现全异步执行架构的MySQL数据库产品,显著提升了PolarDB MySQL的高并发处理能力,其中通用写入性能提升超过70%,长尾延迟降低60%以上。
|
7月前
|
消息中间件 存储 大数据
阿里云消息队列 Kafka 架构及典型应用场景
阿里云消息队列 Kafka 是一款基于 Apache Kafka 的分布式消息中间件,支持消息发布与订阅模型,满足微服务解耦、大数据处理及实时流数据分析需求。其通过存算分离架构优化成本与性能,提供基础版、标准版和专业版三种 Serverless 版本,分别适用于不同业务场景,最高 SLA 达 99.99%。阿里云 Kafka 还具备弹性扩容、多可用区部署、冷热数据缓存隔离等特性,并支持与 Flink、MaxCompute 等生态工具无缝集成,广泛应用于用户行为分析、数据入库等场景,显著提升数据处理效率与实时性。