常用数据增强方法(基于pytorch)

简介: 常用数据增强方法(基于pytorch)

技术不重要,而是思想。

原则:让训练集与测试集更接近

关于名称: 数据增强、数据扩增、数据增广 都是他。

方法分类:
空间位置:如平移
色彩:如灰度图、色彩抖动
形状:如仿射变换
上下文场景:如遮挡、填充

具体方法:
数据中心化
数据标准化
缩放
裁剪
旋转
翻转
填充
噪声添加
灰度变换
线性变换
仿射变换
亮度、饱和度及对比度变换

在深度学习模型的训练过程中,数据扩增是必不可少的环节。现有深度学习的参数非常多,一般的模型可训练的参数量基本上都是万到百万级别,而训练集样本的数量很难有这么多,数据扩增可以扩展样本空间。

扩增一般不会改变标签,对于物体检测,数据扩增会改变物体坐标位置;对于图像分割,数数据扩增方法有很多:从颜色空间、尺度空间到样本空间,同时根据不同任务数据扩增都有相应的区别。对于图像分类,数据据扩增会改变像素标签。
torchvision.transforms 为例,首先整体了解数据扩增的方法,包括:

1. 裁剪

  • 中心裁剪:transforms.CenterCrop(512); # 一个参数,宽高相等
  • 随机裁剪:transforms.RandomCrop;
  • 随机大小、长宽比裁剪:transforms.RandomResizedCrop;
  • 上下左右中心裁剪:transforms.FiveCrop;
  • 上下左右中心裁剪后翻转: transforms.TenCrop。

2. 翻转和旋转

  • 依概率p水平翻转:transforms.RandomHorizontalFlip(p=0.5);
  • 依概率p垂直翻转:transforms.RandomVerticalFlip(p=0.5);
  • 随机旋转:transforms.RandomRotation(degrees, resample=False, expand=False, center=None)。
    • degrees:旋转角度,当为一个数a时,在(-a,a)之间随机旋转
    • resample:重采样方法
    • expand:旋转时是否保持图片完整,只针对中心旋转
    • center:设置旋转中心点

3. 随机遮挡

  • 对图像进行随机遮挡: transforms.RandomErasing。

4. 图像变换

  • 尺寸变换:transforms.Resize;
  • 标准化:transforms.Normalize;
  • 填充:transforms.Pad;
  • 修改亮度、对比度和饱和度:transforms.ColorJitter;
  • 转灰度图:transforms.Grayscale;
  • 依概率p转为灰度图:transforms.RandomGrayscale;
  • 线性变换:transforms.LinearTransformation();
  • 仿射变换:transforms.RandomAffine;
  • 将数据转换为PILImage:transforms.ToPILImage;
  • 转为tensor,并归一化至[0-1]:transforms.ToTensor;
  • 用户自定义方法:transforms.Lambda。

5. 对transforms的选择操作,使数据增强更灵活

  • transforms.RandomChoice(transforms列表):从给定的一系列transforms中选一个进行操作;
  • transforms.RandomApply(transforms列表, p=0.5):给一个transform加上概率,依概率进行选择操作;
  • transforms.RandomOrder(transforms列表):将transforms中的操作随机打乱。

6. 自定义transforms方法

  • 注意事项:
    1. 仅有一个参数,返回一个参数

    2. 注意上下游的输出与输入

    3. 通过类方法实现多参数的传入

      class Mytransforms(object):
          def __init__(self,...):
              '''
              初始化函数,在这里出入多参数
              '''
              pass
          def __call__(self, img):
              '''
              1. 仅有一个参数img,仅返回一个参数img
              2. 在这里实现功能
              '''
              pass
              return img
      

常用的数据增强库

1. torchvision

pytorch官方提供的数据增强库,提供了基本的数据增强方法,可以无缝与torch进行集成;但数据增强方法种类较少,且速度中等;

链接:https://github.com/pytorch/vision

2. imgaug

imgaug是常用的第三方数据增强库,提供了多样的数据增强方法,且组合起来非常方便,速度较快;

链接:https://github.com/aleju/imgaug

3. albumentations

是常用的第三方数据增强库,提供了多样的数据增强方法,对图像分类、语义分割、物体检测和关键点检测都支持,速度较快。

链接:https://albumentations.readthedocs.io

相关文章
|
1月前
|
人工智能 自然语言处理 物联网
RoSA: 一种新的大模型参数高效微调方法
随着语言模型不断扩展到前所未有的规模,对下游任务的所有参数进行微调变得非常昂贵,PEFT方法已成为自然语言处理领域的研究热点。PEFT方法将微调限制在一小部分参数中,以很小的计算成本实现自然语言理解任务的最先进性能。
67 1
|
9天前
|
人工智能 自然语言处理 知识图谱
HUSKY:一个优化大语言模型多步推理的新代理框架
HUSKY是开源语言代理,专注复杂任务处理,如数字、表格及知识推理。通过多步计划和专家模型执行,它能迭代解决问题。在多模态任务中,即使使用小型模型,HUSKY也能匹敌GPT-4。训练涉及教师模型创建解决方案轨迹,以泛化处理广泛任务。在数值、表格和知识推理任务上表现出色,通过整合高效模型,HUSKY展示了在复杂推理领域的潜力。
23 3
|
16天前
|
编解码 算法 计算机视觉
YOLOv8数据增强预处理方式详解:包括数据增强的作用,数据增强方式与方法
YOLOv8数据增强预处理方式详解:包括数据增强的作用,数据增强方式与方法
|
1月前
|
API 算法框架/工具 异构计算
Python中Keras微调Google Gemma:定制化指令增强大语言模型LLM
Python中Keras微调Google Gemma:定制化指令增强大语言模型LLM
|
11月前
|
机器学习/深度学习 API 算法框架/工具
Keras 中级教程:构建复杂模型与数据增强
在上一篇文章中,我们介绍了使用 Keras 构建和训练简单深度学习模型的基础知识。在本篇文章中,我们将进一步探索如何使用 Keras 来构建更复杂的模型,以及如何通过数据增强来提高模型的泛化能力。
|
11月前
|
机器学习/深度学习 API 算法框架/工具
Keras 高级教程:模型微调和自定义训练循环
我们在前两篇文章中介绍了如何使用 Keras 构建和训练深度学习模型的基础和中级知识。在本篇文章中,我们将探讨一些更高级的主题,包括模型微调和自定义训练循环。
|
11月前
|
机器学习/深度学习 数据可视化 Java
TensorFlow 高级技巧:自定义模型保存、加载和分布式训练
本篇文章将涵盖 TensorFlow 的高级应用,包括如何自定义模型的保存和加载过程,以及如何进行分布式训练。
|
PyTorch 算法框架/工具
【PyTorch】两种不同分类层的设计方法
【PyTorch】两种不同分类层的设计方法
58 0
|
机器学习/深度学习 存储 并行计算
10个你一定要知道的Pytorch特性
10个你一定要知道的Pytorch特性
121 0
|
机器学习/深度学习 存储 计算机视觉
【目标检测】常用数据增强从原理到实现
【目标检测】常用数据增强从原理到实现
230 0