《云上社交行业技术服务白皮书》——第三章 云上社交典型场景与架构——3.3 社交安全——3.3.1 社交内容安全(下)

本文涉及的产品
对象存储 OSS,20GB 3个月
内容审核增强版开发者实践包,10万次资源包1年有效
对象存储 OSS,恶意文件检测 1000次 1年
简介: 《云上社交行业技术服务白皮书》——第三章 云上社交典型场景与架构——3.3 社交安全——3.3.1 社交内容安全(下)

《云上社交行业技术服务白皮书》——第三章 云上社交典型场景与架构——3.3 社交安全——3.3.1 社交内容安全(上) https://developer.aliyun.com/article/1232349?groupCode=supportservice



3.3.1.2.1 OSS违规检测

 

阿里云对象存储OSS 务中的图片、视频、   是否包含色情、

涉政等违规内容

 

检测OSS存储空间中的违规内容,

增量内容自动检测或存量内容手动扫描。

 


OSS违规检测能够检测阿里云对象存储OSS服务中的图片、视频、语音是否包含 色情、涉政等违规内容,并可以自动冻结检测出的违规内容(禁止通过公网访问违规内),帮助您规避可能遇到的内容违规风险。


能介绍


OSS违规检测支持检指定OSS1Bucket中的增量内容和存量内容,即增量扫描 和存量扫描。该功能无需您开发,只需要少许页面配置即可接入使用。


•增扫描开启增量扫描后,当您在OSS1Bucket上传了新的图片、视频、语音 时,内容安全将自动检测新增的图片、视频是否存在违规。增量扫描一次配置即可长 生效。


•存量扫描量扫描目前不支持自动检测,需要您手动创建扫描任务。创建后, 内容安全将在指定时间,一次性扫描您指定的OSS1Bucket已有的图片、视频、语音 是否存在违规。


使用流程

 

image.png

 

3.3.1.2.2 站点检测

 

 

内容风险检测

定期自动检查网站首页或全站中存在的违规内容

支持检测的风险场景如下:

    首页篡改

    色情低俗

    涉政暴恐

    垃圾广告

•    用户自定义关键词

•    用户自定义相似图

 

站点检测服务帮助您定期检查网站首页和全站内容,及时发现您的网站在内容安 全方可能存在的风险(例如,首页篡改、挂马暗链、色情低俗、涉政暴恐等),并 向您展示违规内容的具体地址,帮助您查看和修复。


1、功能描述


站点检测的对象是您的网站上的网页和图片,以URL数量进行计数。在单个网站 的一个检测周期内,站点检测支持的最大检测容量为10万个URL。站点检测包含首页 检测和全站检测功能。


首页检测:定期对您网站的首页进行检测,展示最近一次的检查结果。检查结 果涵盖首页篡改、挂马暗链、色情低俗、涉政暴恐等风险提示,并提供源码、文本、 图片三类呈现方式,供您参照和整改


全站检测:定期对您网站域名下的网页进行自动化全站内容检测,展示最近一 次的检查结果。检查结果涵盖挂马暗链、色情低俗、涉政暴恐等风险提示,并提供源 码、本、图片三类呈现方式,供您参照和整改。


2、使用流程


站点检测服务定期检查您的网站首页和全站内容,及时发现您的网站在内容安全 方面能存在的风险(例如首页篡改、挂马暗链、色情低俗、涉政暴恐等),并向您 展示违规内容的具体地址,帮助您查看和修复。您可以设置消息通知,获取实时的站 点首页风险提醒


在使用站点检测功能之前,您需要先购买站点检测实例。购买实例后,需要将实 例绑到您的站点、添加要检测的网站域名和首页地址、设定首页和全站检测的频 率,并完成网站鉴权。完成设置后,系统将定期按照您设定的频率对首页和全站内容 (包含网页码、文本和图片)进行检测。如果发现有风险,将按照您设定的消息接 收方式通知您,您也可以登录内容安全控制台查看检测结果


image.png

相关文章
|
2月前
|
机器学习/深度学习 安全 算法
十大主流联邦学习框架:技术特性、架构分析与对比研究
联邦学习(FL)是保障数据隐私的分布式模型训练关键技术。业界开发了多种开源和商业框架,如TensorFlow Federated、PySyft、NVFlare、FATE、Flower等,支持模型训练、数据安全、通信协议等功能。这些框架在灵活性、易用性、安全性和扩展性方面各有特色,适用于不同应用场景。选择合适的框架需综合考虑开源与商业、数据分区支持、安全性、易用性和技术生态集成等因素。联邦学习已在医疗、金融等领域广泛应用,选择适配具体需求的框架对实现最优模型性能至关重要。
510 79
十大主流联邦学习框架:技术特性、架构分析与对比研究
|
3月前
|
Kubernetes Cloud Native 微服务
探索云原生技术:容器化与微服务架构的融合之旅
本文将带领读者深入了解云原生技术的核心概念,特别是容器化和微服务架构如何相辅相成,共同构建现代软件系统。我们将通过实际代码示例,探讨如何在云平台上部署和管理微服务,以及如何使用容器编排工具来自动化这一过程。文章旨在为开发者和技术决策者提供实用的指导,帮助他们在云原生时代中更好地设计、部署和维护应用。
|
10天前
|
机器学习/深度学习 缓存 自然语言处理
深入解析Tiktokenizer:大语言模型中核心分词技术的原理与架构
Tiktokenizer 是一款现代分词工具,旨在高效、智能地将文本转换为机器可处理的离散单元(token)。它不仅超越了传统的空格分割和正则表达式匹配方法,还结合了上下文感知能力,适应复杂语言结构。Tiktokenizer 的核心特性包括自适应 token 分割、高效编码能力和出色的可扩展性,使其适用于从聊天机器人到大规模文本分析等多种应用场景。通过模块化设计,Tiktokenizer 确保了代码的可重用性和维护性,并在分词精度、处理效率和灵活性方面表现出色。此外,它支持多语言处理、表情符号识别和领域特定文本处理,能够应对各种复杂的文本输入需求。
49 6
深入解析Tiktokenizer:大语言模型中核心分词技术的原理与架构
|
2天前
|
人工智能 运维 安全
AI 安全架构概述
AI 安全架构涵盖数据采集、模型训练、推理部署等阶段,确保安全性、隐私与合规。其核心组件包括数据层、模型层、推理层、应用层和运维层,针对数据安全威胁(如数据投毒)、模型窃取、对抗攻击及系统漏洞等风险,提出数据加密、对抗训练、联邦学习等防御策略,并强调开发前、开发中和部署后的最佳实践,以降低 AI 解决方案的安全风险。
31 13
|
1月前
|
机器学习/深度学习 缓存 自然语言处理
DeepSeek背后的技术基石:DeepSeekMoE基于专家混合系统的大规模语言模型架构
DeepSeekMoE是一种创新的大规模语言模型架构,融合了专家混合系统(MoE)、多头潜在注意力机制(MLA)和RMSNorm归一化。通过专家共享、动态路由和潜在变量缓存技术,DeepSeekMoE在保持性能的同时,将计算开销降低了40%,显著提升了训练和推理效率。该模型在语言建模、机器翻译和长文本处理等任务中表现出色,具备广泛的应用前景,特别是在计算资源受限的场景下。
541 29
DeepSeek背后的技术基石:DeepSeekMoE基于专家混合系统的大规模语言模型架构
|
3月前
|
监控 安全 API
使用PaliGemma2构建多模态目标检测系统:从架构设计到性能优化的技术实践指南
本文详细介绍了PaliGemma2模型的微调流程及其在目标检测任务中的应用。PaliGemma2通过整合SigLIP-So400m视觉编码器与Gemma 2系列语言模型,实现了多模态数据的高效处理。文章涵盖了开发环境构建、数据集预处理、模型初始化与配置、数据加载系统实现、模型微调、推理与评估系统以及性能分析与优化策略等内容。特别强调了计算资源优化、训练过程监控和自动化优化流程的重要性,为机器学习工程师和研究人员提供了系统化的技术方案。
249 77
使用PaliGemma2构建多模态目标检测系统:从架构设计到性能优化的技术实践指南
|
1月前
|
机器学习/深度学习 算法 文件存储
YOLOv11改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
YOLOv11改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
117 10
YOLOv11改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
|
1月前
|
机器学习/深度学习 算法 文件存储
RT-DETR改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
RT-DETR改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
38 4
RT-DETR改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
|
9天前
|
监控 安全 Cloud Native
企业网络架构安全持续增强框架
企业网络架构安全评估与防护体系构建需采用分层防御、动态适应、主动治理的方法。通过系统化的实施框架,涵盖分层安全架构(核心、基础、边界、终端、治理层)和动态安全能力集成(持续监控、自动化响应、自适应防护)。关键步骤包括系统性风险评估、零信任网络重构、纵深防御技术选型及云原生安全集成。最终形成韧性安全架构,实现从被动防御到主动免疫的转变,确保安全投入与业务创新的平衡。
|
2月前
|
存储 缓存 关系型数据库
社交软件红包技术解密(六):微信红包系统的存储层架构演进实践
微信红包本质是小额资金在用户帐户流转,有发、抢、拆三大步骤。在这个过程中对事务有高要求,所以订单最终要基于传统的RDBMS,这方面是它的强项,最终订单的存储使用互联网行业最通用的MySQL数据库。支持事务、成熟稳定,我们的团队在MySQL上有长期技术积累。但是传统数据库的扩展性有局限,需要通过架构解决。
79 18

热门文章

最新文章