用阿里云内容安全处理OSS的违禁图片

简介: 原文档,https://help.aliyun.com/document_detail/2400149.html 基于官方的文档做的一些拓展
  1. 1、登录函数计算控制台,选择服务地域,创建服务和函数。具体操作,请参见管理服务管理函数。创建函数时,选择使用内置运行时创建的方式,核心字段配置如下:
  • 基本设置区域,选择请求处理程序类型处理事件请求
  • 函数代码区域,根据实际业务选择运行环境,设置代码上传方式使用示例代码方式,并选择对象存储OSS触发函数
  • 触发器配置区域,选择触发器类型对象存储OSS,指定Bucket名称osstest-20文件前缀img文件后缀png触发事件选择oss:ObjectCreated:PutObjectoss:ObjectCreated:PostObject事件,角色名称AliyunOSSEventNotificationRole
    首次创建函数时,您可以根据页面提示授予事件源访问函数计算权限。更多内容,请参见授予事件源访问函数计算的权限
    关于OSS触发器事件的详细信息,请参见OSS触发器概述

2、通过函数调用内容安全图片审核增强版服务。


官方提供了一种通过函数计算来触发内容安全增量扫描的方案,但是该方案没有处理文件的示例,业务方的需求是把检测到的违规文件直接禁止公共读,需要置为PRIVATE权限,加完处理后的示例代码如下:

# -*- coding: utf-8 -*-importjson, uuidimportconfigparserfromaliyunsdkcore.clientimportAcsClientfromaliyunsdkcore.requestimportCommonRequestimportoss2# 需要自行根据检测内容确定好bucket路径及object名称defoss_acl_private(bucket_name, object_name):
auth=oss2.Auth("accessKeyId", "accessSecret")
bucket=oss2.Bucket(auth, 'https://oss-cn-shanghai.aliyuncs.com', bucket_name)
# yourObjectName填写Object完整路径,完整路径中不能包含Bucket名称。bucket.put_object_acl(object_name, oss2.OBJECT_ACL_PRIVATE)
defhandler(event, context):
config=configparser.ConfigParser()
config.read("config.ini", encoding="GB18030")
# AccessKey ID和AccessKey Secret写入的配置文件。evt=json.loads(event)
evt=evt['events'][0]
bucket_name=evt['oss']['bucket']['name']
object_name=evt['oss']['object']['key']
ossRegionId=evt['region']
client=AcsClient(config.get("config", "accessKeyId"), config.get("config", "accessSecret"), 'cn-shanghai')
request=CommonRequest()
request.set_read_timeout(6000)  # 读超时时间配置request.set_connect_timeout(3000)  # 连接超时时间配置request.set_accept_format('json')
request.set_method('POST')
request.set_protocol_type('https')  # https | httprequest.set_domain('green-cip.cn-shanghai.aliyuncs.com')
request.set_version('2022-03-02')
request.set_action_name('ImageModeration')
request.add_query_param("Service", "baselineCheck")
request.add_query_param("ServiceParameters",
                            {
# 'imageUrl': 'https://www.aliyun.com/1.jpg','dataId': str(uuid.uuid4()),
'ossObjectName': object_name,
'ossRegionId': ossRegionId,
'ossBucketName': bucket_name,
                            })
response=client.do_action_with_exception(request)
# print(str(response, encoding='utf-8'))response_json=json.loads(response)
ifresponse_json.get("Code") ==200:
foriteminresponse_json.get("Data", {}).get("Result", []):
print('item', item)
ifitem["Label"] =="nonLabel":
print("nonLabel 无命中标签")
elif"pornographic"initem["Label"] andint(item["Confidence"]) >80:
print("疑似含有色情内容")
# oss_acl_private(bucket_name, object_name)elif"political"initem["Label"] andint(item["Confidence"]) >80:
print("疑似含有涉政内容")
# oss_acl_private(bucket_name, object_name)elif"violent"initem["Label"] andint(item["Confidence"]) >80:
print("疑似含有暴恐内容")
# oss_acl_private(bucket_name, object_name)elif"fraud"initem["Label"] andint(item["Confidence"]) >80:
print("疑似含有风险内容")
else:
print("请求失败,错误码:", response_json.get("Code"))


相关实践学习
对象存储OSS快速上手——如何使用ossbrowser
本实验是对象存储OSS入门级实验。通过本实验,用户可学会如何用对象OSS的插件,进行简单的数据存、查、删等操作。
相关文章
|
4月前
|
云安全 人工智能 安全
Dify平台集成阿里云AI安全护栏,构建AI Runtime安全防线
阿里云 AI 安全护栏加入Dify平台,打造可信赖的 AI
3057 166
|
4月前
|
云安全 人工智能 自然语言处理
阿里云x硅基流动:AI安全护栏助力构建可信模型生态
阿里云AI安全护栏:大模型的“智能过滤系统”。
2037 120
|
6月前
|
云安全 机器学习/深度学习 人工智能
阿里云安全Black Hat技术开源大揭秘,AI安全检测的工程化实践
阿里云安全 LLMDYara框架开源核心思路,赋能云安全产品!
2077 15
|
6月前
|
编解码 数据处理 API
如何用阿里云OSS对图片和视频进行数据处理?
本文介绍了如何利用阿里云对象存储OSS进行图片和视频处理。OSS提供了丰富的功能,如图片的缩放、裁剪、旋转和水印添加等,用户只需在图片URL后附加处理参数即可实现自动化处理。同时,OSS还支持自定义样式模板,便于批量操作。对于视频处理,OSS支持转码、截图、拼接等功能,满足多终端播放需求。通过OSS的API和SDK,开发者可以方便地集成这些功能,提升数据管理效率。
|
5月前
|
云安全 人工智能 自然语言处理
|
5月前
|
人工智能 安全
|
6月前
|
存储 编解码 API
如何利用阿里云OSS进行图片和视频处理?
本文介绍了如何利用阿里云对象存储OSS进行图片和视频处理。内容包括OSS的基本功能、上传与管理媒体资源、图片处理(缩放、裁剪、旋转、水印等)、视频处理(转码、截图、拼接等)以及相关API的使用方法。通过OSS,用户可高效实现多媒体资源的存储与处理,适用于各类企业和开发者。
|
7月前
|
云安全 人工智能 安全
百万奖金,2025 阿里云「AI安全」全球挑战赛等你来!
百万奖金池,多赛道齐发,邀请你来战
1367 4
|
Cloud Native 数据库 对象存储
《阿里云产品四月刊》—内容安全 新功能
阿里云瑶池数据库云原生化和一体化产品能力升级,多款产品更新迭代
244 4

相关产品

  • 对象存储