开发者社区 问答 正文

阿里云安全系统全局增加敏感词校验,这类数字也是敏感词?

阿里云安全系统全局增加敏感词校验,这类数字也是敏感词?image.png

展开
收起
真的很搞笑 2024-02-25 09:33:53 183 分享 版权
来自: 阿里云安全
阿里云 AI 助理回答

在阿里云的安全系统中,全局敏感词的设置主要用于规避用户输入或模型生成内容中的潜在风险。针对您的问题“这类数字也是敏感词?”,以下为详细解答:


1. 敏感词的定义与范围

敏感词是指可能引发风险、违规或不适当的内容词汇。根据知识库资料,敏感词可以包括但不限于以下类型: - 文本类敏感词(如涉及政治、宗教、暴力等词汇)。 - 特定标签标记的词汇(如违禁品、非法活动相关词汇)。

是否将数字纳入敏感词范围,取决于具体的业务需求和场景。例如: - 如果某些数字组合具有特殊含义(如身份证号、电话号码、银行卡号等),可能需要将其视为敏感信息。 - 如果某些数字单独或组合后可能引发风险(如金额、日期等特定上下文中的数字),也可以通过敏感词配置进行管理。


2. 如何新增数字作为敏感词

如果需要将数字或数字组合设置为敏感词,可以通过以下步骤完成配置:

(1)进入敏感词管理界面

  • 登录阿里云智能对话机器人管理后台。
  • 进入具体机器人空间,选择知识库 > 全局配置 > 全局敏感词,进入敏感词管理界面。

(2)新增敏感词

  • 点击新增全局敏感词
  • 在敏感词类型中选择适合的分类(如自定义类型)。
  • 填写具体的数字或数字组合作为敏感词,并可添加其同义词(如不同格式的数字表达方式)。
  • 点击保存完成新增。

(3)批量导入数字敏感词

  • 如果需要批量添加数字敏感词,可通过导入功能上传Excel文件。
  • 文件需按照规范模板填写,且大小需小于10M。

3. 触发回复话术配置

当用户输入的问题包含敏感词(包括数字敏感词)时,机器人会自动触发预设的话术回复。配置步骤如下: 1. 点击导航栏构建 > 更多设置 > 安全 > 敏感词话术。 2. 设置当用户问题或模型生成回复包含敏感内容时的默认回复话术。 3. 保存配置以生效。


4. 注意事项

  • 敏感词长度限制:根据API文档,敏感词的长度需符合系统限制,过长的数字组合可能导致配置失败。
  • 冲突检测:在同步敏感词时,系统会检查是否存在重复或冲突的敏感词。若数字敏感词与其他词汇冲突,需调整配置。
  • 测试与发布:完成敏感词配置后,需前往发布中心发布更新,确保配置生效。

5. 总结

数字是否属于敏感词,取决于具体业务场景。如果某些数字或数字组合可能引发风险,可以通过阿里云提供的敏感词管理功能将其纳入敏感词范围,并配置相应的触发回复话术。建议根据实际需求合理设置敏感词,避免过度限制影响用户体验。

如有进一步疑问,请提供更多具体场景以便更精准地解答。

有帮助
无帮助
AI 助理回答生成答案可能存在不准确,仅供参考
0 条回答
写回答
取消 提交回答
问答分类:
问答标签:
问答地址: