真是太强大了!YOLO-World检测一切的任务框架使用指南,支持开放词汇检测任务

简介: 真是太强大了!YOLO-World检测一切的任务框架使用指南,支持开放词汇检测任务

1.模型简介

源码地址:https://github.com/AILab-CVC/YOLO-World

YOLO-World模型引入了基于开放词汇检测任务的先进实时方法,同时采用了视觉语言建模和在大量数据集上进行预训练的方法,能够以无与伦比的效率在零样本场景中出色地识别大量物体。这项创新可根据描述性文本检测图像中的任何物体。YOLO-World 可大幅降低计算要求,同时保持极具竞争力的性能,是众多视觉应用的多功能工具。

2.模型结构与创新点

与传统的YOLO检测器相比,YOLO-World作为一个开放词汇表检测器,可采用文本作为输入,文本编码器首先编码输入的文本。然后将输入图像编码成多尺度图像特征,RepVL-PAN算法利用图像和文本特征的多级交叉模态融合。最后,YOLO-World预测了回归边界框和对象编码,以匹配输入文本中出现的类别或名词。

核心创新点:

实时解决方案:利用 CNN 的计算速度,YOLO-World 可提供快速的开放词汇检测解决方案,满足各行业对即时结果的需求。

效率和性能: YOLO-World 可在不牺牲性能的前提下降低计算和资源需求,提供了一种可替代SAM 等模型的强大功能,但计算成本仅为它们的一小部分,从而支持实时应用。

利用离线词汇进行推理: YOLO-World 引入了 "先提示后检测 "的策略,利用离线词汇进一步提高效率。这种方法可以使用预先计算的自定义提示,包括标题或类别,并将其编码和存储为离线词汇嵌入,从而简化检测过程。

由YOLOv8 支持:基于 Ultralytics YOLOv8的YOLO-World 利用实时对象检测方面的最新进展,以无与伦比的准确性和速度促进开放词汇检测。

卓越的基准测试: YOLO在标准基准测试中,World 的速度和效率超过了现有的开放词汇检测器,包括 MDETR 和 GLIP 系列,展示了YOLOv8 在单个 NVIDIA V100 GPU 上的卓越性能。

应用广泛: YOLO-World 的创新方法为众多视觉任务带来了新的可能性,与现有方法相比,速度提高了几个数量级。

2.使用方法

2.1 使用模型推理预测

直接使用官方的预训练模型进行推理预测,默认检测所有类别。

from ultralytics import YOLOWorld
# 加载模型
model = YOLOWorld('yolov8s-world.pt')  
# 推理预测
results = model.predict('TestFiles/bus.jpg')
# 显示结果
results[0].show()

2.2 自定义词汇推理

YOLO-World 框架允许通过自定义提示指定类别,使用户能够根据自己的特定需求定制模型,而无需重新训练。这一功能对于调整模型以适应新领域或特定任务(这些任务最初并不属于训练数据的一部分)尤其有用。通过设置自定义提示词汇,用户基本上可以引导模型关注感兴趣的对象,从而提高检测结果的相关性和准确性。

通过使用model.set_classes(["fish"])方法在列表中填入需要进行检测的目标名称,即可对指定目标进行检测。此处自定义了一个鱼的类别["fish"],进行检测演示。

from ultralytics import YOLO
# 加载模型
model = YOLO('PreModels/yolov8s-worldv2.pt')  
# 定义检测类别
model.set_classes(["fish"])
# 推理
results = model.predict('TestFiles/121.png')
# Show results
results[0].show()

如果只需要检测 "人 "和 "公共汽车 "对象,可以直接指定这些类model.set_classes(["person", "bus"])

from ultralytics import YOLO
# Initialize a YOLO-World model
model = YOLO('yolov8s-world.pt')  # or choose yolov8m/l-world.pt
# Define custom classes
model.set_classes(["person", "bus"])
# Execute prediction for specified categories on an image
results = model.predict('bus.jpg')
# Show results
results[0].show()

可以看到,对比2.1节中不设置检测对象的检测结果,这里并没有将交通标志检测并且标记出来,只对人与公交车进行了检测。

2.3 自定义词汇类别保存模型

可以在设置自定义类后保存模型。这样就可以创建一个YOLO-World 模型版本,专门用于特定目标检测。

首先加载YOLO-World 模型,为其设置自定义类并保存:

from ultralytics import YOLO
# 加载预训练模型
model = YOLO('yolov8s-world.pt')  
# 定义检测类别
model.set_classes(["person", "bus"])
# 保存模型
model.save("custom_yolov8s.pt")

保存后custom_yolov8s.pt 模型的行为与其他预训练的YOLOv8 模型无异,但有一个关键区别:它现在经过优化,只能检测您定义的类别。针对您的特定应用场景,这种定制可以大大提高检测性能和效率。

使用保存后的模型进行推理预测:

from ultralytics import YOLO
# 加载保存的模型
model = YOLO('custom_yolov8s.pt')
# 使用模型进行推理
results = model.predict('bus.jpg')
# 显示结果
results[0].show()

使用自定义词汇保存的优点

效率高:通过关注相关对象、减少计算开销和加快推理速度,简化检测过程。

灵活性更好:可使模型轻松适应新的或特殊的检测任务,而无需进行大量的再培训或数据收集。

简单便捷:无需在运行时重复指定自定义类,从而简化了部署,使模型可直接使用其嵌入式词汇。

性能更高:通过将模型的注意力和资源集中在识别定义的对象上,提高指定类别的检测精度。


相关文章
|
数据处理 开发工具 git
coco2017数据集转换为yolo格式(记录过程)
最近做一个yolov5的落地应用项目,用的anylabeling打标,需要将coco2017的数据集转为yolo格式,故写下记录过程!
|
11月前
|
机器学习/深度学习 监控 数据可视化
基于YOLOv8的打架斗殴暴力行为智能识别项目源码(目标检测)
本系统结合 YOLOv8检测模型 与 PyQt5界面工具,不仅提供完整训练流程,还支持自定义数据集训练,帮助用户快速搭建 开箱即用的打架斗殴行为识别系统。
1796 28
基于YOLOv8的打架斗殴暴力行为智能识别项目源码(目标检测)
|
9月前
|
SQL 人工智能 数据库
Pixeltable:一张表搞定embeddings、LLM、向量搜索,多模态开发不再拼凑工具
Pixeltable 是一个开源多模态 AI 基础设施框架,统一管理文档、图像、视频、embedding 和 LLM 输出,通过“一切皆表”理念,将数据存储、计算与 pipeline 自动化集成于一体,简化 RAG、目标检测、相似性检索等应用开发,告别拼凑式架构,提升开发效率与可维护性。
485 5
Pixeltable:一张表搞定embeddings、LLM、向量搜索,多模态开发不再拼凑工具
|
机器人 计算机视觉
检测一切YOLO-World的几个实用使用技巧,助力精准高效目标检测任务!
检测一切YOLO-World的几个实用使用技巧,助力精准高效目标检测任务!
|
存储 SQL 供应链
如何开发仓库管理系统中的出入库管理板块 ?(附架构图+流程图+代码参考)
本文详细介绍了仓库管理系统(WMS)中出入库管理模块的开发与实现。内容涵盖功能模块设计、业务流程梳理、技术实现技巧及实际应用效果,助力企业高效构建定制化仓库管理系统,提升库存管理效率与准确性。
|
机器学习/深度学习 编解码 监控
目标检测实战(六): 使用YOLOv8完成对图像的目标检测任务(从数据准备到训练测试部署的完整流程)
这篇文章详细介绍了如何使用YOLOv8进行目标检测任务,包括环境搭建、数据准备、模型训练、验证测试以及模型转换等完整流程。
29341 59
目标检测实战(六): 使用YOLOv8完成对图像的目标检测任务(从数据准备到训练测试部署的完整流程)
|
机器学习/深度学习 计算机视觉 异构计算
YOLOv8优改系列一:YOLOv8融合BiFPN网络,实现网络快速涨点
本文介绍了将BiFPN网络应用于YOLOv8以增强网络性能的方法。通过双向跨尺度连接和加权特征融合,BiFPN能有效捕获多尺度特征,提高目标检测效果。文章还提供了详细的代码修改步骤,包括修改配置文件、创建模块文件、修改训练代码等,以实现YOLOv8与BiFPN的融合。
3533 0
YOLOv8优改系列一:YOLOv8融合BiFPN网络,实现网络快速涨点
|
机器学习/深度学习 PyTorch TensorFlow
ONNX 与量化:提高模型效率
【8月更文第27天】随着人工智能技术的广泛应用,模型部署变得越来越重要。为了在资源受限的设备上运行复杂的机器学习模型,模型量化技术成为了一种有效的手段。Open Neural Network Exchange (ONNX) 作为一种开放格式,支持在不同框架之间交换训练好的模型,同时也支持模型量化。本文将探讨如何结合 ONNX 和模型量化技术来提高模型的效率,减少模型大小并加快推理速度。
3294 2
|
机器学习/深度学习 编解码 文字识别
【开源】轻松实现车牌检测与识别:yolov8+paddleocr【python源码+数据集】
【开源】轻松实现车牌检测与识别:yolov8+paddleocr【python源码+数据集】