敏感词过滤-文本审核-敏感词审核-违禁词审核-敏感词检测-违禁词检测

简介: 本服务提供智能文本审核,精准识别违禁词、色情低俗、恶意推广、辱骂攻击及低质灌水内容,并校验广告法合规性,适用于评论过滤、注册信息筛查、文章发布等场景,保障内容安全与平台合规。

前言

对文本中的违禁词、色情低俗、恶意推广、辱骂攻击、低质灌水等内容进行智能识别与广告法合规校验,适用于用户评论过滤、注册信息筛查、公开发布文章内容审核等场景。

热门使用场景

  1. 社区 UGC 内容智能审核
    针对用户评论、留言、发帖等互动内容进行实时敏感词过滤,精准识别违禁信息、辱骂攻击、低俗灌水及恶意推广内容,维护社区交流环境合规有序。

  2. 用户注册与昵称合规筛查
    对用户账号昵称、个性签名、注册资料等信息进行自动校验,拦截含违规敏感词、恶意引导及广告法违禁表述的内容,保障平台账号体系规范安全。

  3. 自媒体与文章内容合规检测
    面向公众号推文、资讯稿件、营销文案等文本内容,全面检测广告法违禁词、低俗色情、恶意推广等违规信息,降低内容发布合规风险。

API介绍

请求参数

名称 类型 必须 说明
text String 审核的文本

详见此处

返回示例

{
   
  "code": 200, // 返回码,详见返回码说明
  "msg": "成功",  // 返回对应的描述
  "taskNo": "40525341889422111006",  // 本次请求号
  "charge": true,  // 计费标志
  "data": {
   
    "result": "2", //  审核结果类型,可取值1234,分别代表1:合规,2:不合规,3:疑似,4:审核失败
    "resultMsg": "不合规", // result对应的描述
    "resultItems": [ // 不合规项,合规时不返回
      {
   
        "nonComplianceType": 2, // 详见不合规类型
        "msg": "存在文本色情不合规", // 不合规描述
        "hits": [{
    // 命中的词
          "probability": 0.972112, // 不合规项置信度,范围:01,数字越大,可能性越高
          "words": [  // 送检文本命中词库的关键词。
            ""
          ],
          "wordHitPositions": [ // 送检文本命中词库的详细信息,为Object的列表,keyword、positions、label三个字段。
            {
   
              "positions": [
                [
                  4,
                  6
                ]
              ],
              "label": "100400", // 关键词命中的细分标签,详见label字段描述。
              "keyword": "" // 命中的词
            }
          ],
          "modelHitPositions": [ // 送检文本命中模型的详细信息,包含位置信息及置信度信息。
            // 位置信息:命中模型的违规内容在送检原文中的位置(从0开始计算):“开始位置”、“结束位置”;
            // 置信度信息:命中模型对应的置信度分数
            [
              0,
              4,
              0.9721
            ]
          ]
        }]
      },
      {
   
        "nonComplianceType": 4,
        "msg": "存在恶意推广不合规",
        "hits": [{
   
          "probability": 0.96125,
          "modelHitPositions": [
            [
              0,
              4,
              0.9616
            ]
          ]
        }]
      },
      ...
    ]
  }
}
相关文章
|
14天前
|
人工智能 数据可视化 安全
王炸组合!阿里云 OpenClaw X 飞书 CLI,开启 Agent 基建狂潮!(附带免费使用6个月服务器)
本文详解如何用阿里云Lighthouse一键部署OpenClaw,结合飞书CLI等工具,让AI真正“动手”——自动群发、生成科研日报、整理知识库。核心理念:未来软件应为AI而生,CLI即AI的“手脚”,实现高效、安全、可控的智能自动化。
34762 38
王炸组合!阿里云 OpenClaw X 飞书 CLI,开启 Agent 基建狂潮!(附带免费使用6个月服务器)
|
8天前
|
人工智能 自然语言处理 安全
Claude Code 全攻略:命令大全 + 实战工作流(建议收藏)
本文介绍了Claude Code终端AI助手的使用指南,主要内容包括:1)常用命令如版本查看、项目启动和更新;2)三种工作模式切换及界面说明;3)核心功能指令速查表,包含初始化、压缩对话、清除历史等操作;4)详细解析了/init、/help、/clear、/compact、/memory等关键命令的使用场景和语法。文章通过丰富的界面截图和场景示例,帮助开发者快速掌握如何通过命令行和交互界面高效使用Claude Code进行项目开发,特别强调了CLAUDE.md文件作为项目知识库的核心作用。
8784 26
Claude Code 全攻略:命令大全 + 实战工作流(建议收藏)
|
3天前
|
人工智能 JavaScript Ubuntu
低成本搭建AIP自动化写作系统:Hermes保姆级使用教程,长文和逐步实操贴图
我带着怀疑的态度,深度使用了几天,聚焦微信公众号AIP自动化写作场景,写出来的几篇文章,几乎没有什么修改,至少合乎我本人的意愿,而且排版风格,也越来越完善,同样是起码过得了我自己这一关。 这个其实OpenClaw早可以实现了,但是目前我觉得最大的区别是,Hermes会自主总结提炼,并更新你的写作技能。 相信就冲这一点,就值得一试。 这篇帖子主要就Hermes部署使用,作一个非常详细的介绍,几乎一步一贴图。 关于Hermes,无论你赞成哪种声音,我希望都是你自己动手行动过,发自内心的选择!
1744 17
|
25天前
|
人工智能 JSON 机器人
让龙虾成为你的“公众号分身” | 阿里云服务器玩Openclaw
本文带你零成本玩转OpenClaw:学生认证白嫖6个月阿里云服务器,手把手配置飞书机器人、接入免费/高性价比AI模型(NVIDIA/通义),并打造微信公众号“全自动分身”——实时抓热榜、AI选题拆解、一键发布草稿,5分钟完成热点→文章全流程!
45659 155
让龙虾成为你的“公众号分身” | 阿里云服务器玩Openclaw
|
8天前
|
机器学习/深度学习 存储 人工智能
还在手写Skill?hermes-agent 让 Agent 自己进化能力
Hermes-agent 是 GitHub 23k+ Star 的开源项目,突破传统 Agent 依赖人工编写Aegnt Skill 的瓶颈,首创“自我进化”机制:通过失败→反思→自动生成技能→持续优化的闭环,让 Agent 在实践中自主构建、更新技能库,持续自我改进。
1549 5
|
15天前
|
人工智能 JSON 监控
Claude Code 源码泄露:一份价值亿元的 AI 工程公开课
我以为顶级 AI 产品的护城河是模型。读完这 51.2 万行泄露的源码,我发现自己错了。
5642 24
|
3天前
|
云安全 人工智能 供应链
|
5天前
|
IDE Java 编译器
【全网最详细】JDK17下载安装图文教程 | Java17编程环境搭建步骤详解
JDK 17是Java官方长期支持(LTS)版本,提供编译、调试、运行Java程序的完整工具链。具备高稳定性、强安全性及现代语言特性(如密封类、模式匹配),广泛用于企业开发、教学入门与生产环境,是学习和实践Java的首选基础工具。(239字)