开发者社区 > 视觉智能 > 正文

视觉智能平台中,我们加入了这个 flag的图片审核判断,但为什么这样的图片可以通过审核呢?

视觉智能平台中,我们加入了这个 flag的图片审核判断,但为什么这样的图片可以通过审核呢,这个 flag 审核的标准是怎样的?
6ffc942bd667daa01d04c91e800e4e3c.png
af98c977e2d13c50f43715854b137b6a.png
还有爆炸识别也不行,这张很明显的爆炸图片,也当做normal给审核通过了
6337f2c848f910e8394d6c3f3247474b.png
f9d629b753b04ee958e9c184902900fe.png

展开
收起
嘟嘟嘟嘟嘟嘟 2024-03-20 22:14:47 70 0
2 条回答
写回答
取消 提交回答
  • 在视觉智能平台中,图片审核判断通常依赖于预设的审核规则和模型的训练数据。如果您发现某些图片通过了审核,尽管它们应该被标记或拦截,这可能是由以下几个原因造成的:

    1. 规则未覆盖:审核规则可能没有涵盖所有的情况,或者描述不够精正确识别。
    2. 模型训练数据有限:如果模型在训练时没有接触过足够多样的违规图片,它可能无法准确地识别出新的或特殊的违规案例。
    3. 误报和漏报:任何审核系统都可能有误报(正常图片被错误地标记为违规)和漏报(违规图片未被标记)的情况。
    4. 技术限制:当前的技术可能还无法完全准确地进行图片内容的判断,特别是在处理模糊、遮挡或复杂场景的图片时。
    5. Flag设置问题:可能是由于flag设置不正确或不完整,导致系统无法按照预期工作。

    对于爆炸识别问题,如果系统将明显的爆炸图片误判为正常,这可能是因为:

    1. 爆炸特征不明显:图片中的爆炸特征可能不够明显,或者与模型训练时的数据差异较大。
    2. 背景干扰:其他复杂的背景素可能干扰了爆炸特征的识别。
    3. 模型泛化能力不足:模型可能没有很好地泛化到新的爆炸图像上。

    为了解决这些问题,您可以采取以下措施:

    1. 调整规则:检查并更新您的审核规则,确保它们能够准确地描述您想要拦截的内容。
    2. 提供更多样本:向平台提供更多样化的违规样本,以帮助改善模型的识别能力。
    3. 反馈问题:将误判的图片报告给平台的技术支持团队,以便他们可以调查问题并改进系统。
    4. 持续监控:定期检查审核系统的性能,确保它符合您的要求,并根据需要进行调整。

    最终,您可能需要与视觉智能平台的技术支持团队合作,以了解具体的flag审核标准,并根据这些标准调整您的审核策略。

    2024-04-01 07:42:29
    赞同 展开评论 打赏
  • 视觉智能平台的图片审核功能通常会依赖一系列的规则和机器学习模型来判断图片内容是否符合标准。当您遇到某些带有特定flag(标志)的图片通过了审核,可能有以下几种情况:

    1. 规则未覆盖:可能是您的审核规则没有覆盖到这种特定的场景或flag。
    2. 阈值设置:审核系统可能有置信度阈值的设定,如果模型对图片的判断结果超过了这个阈值,图片会被判定为符合要求。
    3. 模型误判:即使有flag的存在,机器学习模型也可能因为训练数据的局限性或者模型本身的泛化能力不足而做出错误的判断。
    4. 特征不明显:图片中的flag特征可能不够明显,导致模型无法准确识别出违规内容。
    5. 规避技术:有时候上传者可能会使用一些技术手段来规避审核,比如图像模糊、遮挡等,这会增加识别的难度。

    对于爆炸识别的问题,同样可能是由于上述原因导致的。另外,爆炸的动态范围很广,从小型的烟花到大型的爆炸场面都有可能,因此识别难度较大。

    为了解决这些问题,您可以采取以下措施:

    1. 审查规则:检查现有的审核规则是否足够严格,是否有新的flag需要添加进规则中。
    2. 调整阈值:根据实际情况调整审核系统的置信度阈值,以减少误判和漏判。
    3. 优化模型:收集更多的样本数据,特别是那些被错误分类的案例,用于训练和优化模型。
    4. 人工复审:对于机器审核不确定的情况,引入人工复审机制,确保所有疑似违规内容都经过人工确认。
    5. 技术支持:联系平台的技术支持团队,了解具体的审核机制,并寻求他们的帮助进行问题定位和解决。

    总之,确保图片审核系统的准确性是一个持续的过程,需要不断地收集反馈、调整规则和优化模型。同时,保持与平台提供商的沟通,以便及时了解最新的技术和支持。

    2024-03-29 21:51:53
    赞同 展开评论 打赏

为开发者提供高易用、普惠的视觉API服务,帮助企业快速建立视觉智能技术应用能力的综合性视觉AI能力平台。适用于数字营销、互联网娱乐、安防、手机应用、泛金融身份认证等行业。

相关产品

  • 视觉智能开放平台
  • 热门讨论

    热门文章

    相关电子书

    更多
    阿里云视觉智能开放平台-产品介绍 立即下载
    阿里云视觉智能开放平台产品介绍 立即下载
    利用CNN实现无需联网的图像识别 立即下载