AI 助理
备案控制台
开发者社区 人工智能 文章 正文

基于 PyTorch 框架实现昆虫分类任务（下）

2023-02-17 174
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 基于 PyTorch 框架实现昆虫分类任务（下） 
ResNet(
(conv1): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(maxpool): MaxPool2d(kernel_size=3, stride=2, padding=1, dilation=1, ceil_mode=False)
(layer1): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
(1): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(layer2): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 128, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(64, 128, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(layer3): Sequential(
(0): BasicBlock(
(conv1): Conv2d(128, 256, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(128, 256, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(layer4): Sequential(
(0): BasicBlock(
(conv1): Conv2d(256, 512, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(256, 512, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(avgpool): AdaptiveAvgPool2d(output_size=(1, 1))
(fc): Linear(in_features=512, out_features=2, bias=True)
)
ResNet(
(conv1): Conv2d(3, 64, kernel_size=(7, 7), stride=(2, 2), padding=(3, 3), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(maxpool): MaxPool2d(kernel_size=3, stride=2, padding=1, dilation=1, ceil_mode=False)
(layer1): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
(1): BasicBlock(
(conv1): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(64, 64, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(64, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(layer2): Sequential(
(0): BasicBlock(
(conv1): Conv2d(64, 128, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(64, 128, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(128, 128, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(128, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(layer3): Sequential(
(0): BasicBlock(
(conv1): Conv2d(128, 256, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(128, 256, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(256, 256, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(256, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(layer4): Sequential(
(0): BasicBlock(
(conv1): Conv2d(256, 512, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(downsample): Sequential(
(0): Conv2d(256, 512, kernel_size=(1, 1), stride=(2, 2), bias=False)
(1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(1): BasicBlock(
(conv1): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn1): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
(relu): ReLU(inplace=True)
(conv2): Conv2d(512, 512, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1), bias=False)
(bn2): BatchNorm2d(512, eps=1e-05, momentum=0.1, affine=True, track_running_stats=True)
)
)
(avgpool): AdaptiveAvgPool2d(output_size=(1, 1))
(fc): Linear(in_features=512, out_features=2, bias=True)
)


7.2 训练模型

[12]

1. model_ft = train_model(model_conv, criterion, optimizer_conv, exp_lr_scheduler,
2.                        num_epochs=25)


Epoch 0/0
----------
train Loss: 0.7239 Acc: 0.5820
val Loss: 0.2452 Acc: 0.9216
Training complete in 0m 12s
Best val Acc: 0.921569


经过finetune一个现有的resnet18模型，验证集上的acc达到了95.4248

7.3 可视化预测结果

visualize_model(model_ft)
plt.ioff()
plt.show()

b0940da072511e803f783a32fde45d0d.pnge5e696cf623562b95079ce5ac08171f5.png

246c014eae4069dd3293f20be82a2928.pngc17cac06dc47280c8b461f0f088b604a.png


fb5ab19f6b50d7912b4bab70291091bd.png4e1b54a65d6af6fec84530d0ff02e887.png41bc4665b49679741a2a21660a5929bf.png


8.优化思路


数据

归一化：除了预处理阶段的归一化，可以尝试加入卷积层间的归一化

模型

深度：可以尝试加深网络层数（如使用 resnet-34）

文章标签：
算法框架/工具
数据可视化
PyTorch
关键词：
pytorch框架
pytorch任务
pytorch框架昆虫任务
183王德发
目录
相关文章
Deephub
|
8天前
|
机器学习/深度学习 并行计算 PyTorch
TorchOptimizer：基于贝叶斯优化的PyTorch Lightning超参数调优框架
TorchOptimizer 是一个基于贝叶斯优化方法的超参数优化框架，专为 PyTorch Lightning 模型设计。它通过高斯过程建模目标函数，实现智能化的超参数组合选择，并利用并行计算加速优化过程。该框架支持自定义约束条件、日志记录和检查点机制，显著提升模型性能，适用于各种规模的深度学习项目。相比传统方法，TorchOptimizer 能更高效地确定最优超参数配置。
Deephub
52 7
蚝油菜花
|
1月前
|
人工智能 安全 PyTorch
SPDL：Meta AI 推出的开源高性能AI模型数据加载解决方案，兼容主流 AI 框架 PyTorch
SPDL是Meta AI推出的开源高性能AI模型数据加载解决方案，基于多线程技术和异步事件循环，提供高吞吐量、低资源占用的数据加载功能，支持分布式系统和主流AI框架PyTorch。
蚝油菜花
68 10
SPDL：Meta AI 推出的开源高性能AI模型数据加载解决方案，兼容主流 AI 框架 PyTorch
aliyun7689123603-22772
|
7月前
|
机器学习/深度学习 人工智能 PyTorch
PyTorch框架和MNIST数据集
6月更文挑战20天
aliyun7689123603-22772
107 2
Deephub
|
2月前
|
机器学习/深度学习 监控 PyTorch
深度学习工程实践：PyTorch Lightning与Ignite框架的技术特性对比分析
在深度学习框架的选择上，PyTorch Lightning和Ignite代表了两种不同的技术路线。本文将从技术实现的角度，深入分析这两个框架在实际应用中的差异，为开发者提供客观的技术参考。
Deephub
61 7
Deephub
|
6月前
|
资源调度 PyTorch 调度
多任务高斯过程数学原理和Pytorch实现示例
本文探讨了如何使用高斯过程扩展到多任务场景，强调了多任务高斯过程（MTGP）在处理相关输出时的优势。通过独立多任务GP、内在模型（ICM）和线性模型（LMC）的核心区域化方法，MTGP能够捕捉任务间的依赖关系，提高泛化能力。ICM和LMC通过引入核心区域化矩阵来学习任务间的共享结构。在PyTorch中，使用GPyTorch库展示了如何实现ICM模型，包括噪声建模和训练过程。实验比较了MTGP与独立GP，显示了MTGP在预测性能上的提升。
Deephub
117 7
LDG_AGI
|
5月前
|
机器学习/深度学习 人工智能 PyTorch
AI智能体研发之路-模型篇（五）：pytorch vs tensorflow框架DNN网络结构源码级对比
AI智能体研发之路-模型篇（五）：pytorch vs tensorflow框架DNN网络结构源码级对比
LDG_AGI
96 1
土木林森
|
5月前
|
UED 开发者
哇塞！Uno Platform 数据绑定超全技巧大揭秘！从基础绑定到高级转换，优化性能让你的开发如虎添翼
【8月更文挑战第31天】在开发过程中，数据绑定是连接数据模型与用户界面的关键环节，可实现数据自动更新。Uno Platform 提供了简洁高效的数据绑定方式，使属性变化时 UI 自动同步更新。通过示例展示了基本绑定方法及使用 `Converter` 转换数据的高级技巧，如将年龄转换为格式化字符串。此外，还可利用 `BindingMode.OneTime` 提升性能。掌握这些技巧能显著提高开发效率并优化用户体验。
土木林森
78 0
土木林森
|
5月前
|
机器学习/深度学习 PyTorch TensorFlow
深度学习框架之争：全面解析TensorFlow与PyTorch在功能、易用性和适用场景上的比较，帮助你选择最适合项目的框架
【8月更文挑战第31天】在深度学习领域，选择合适的框架至关重要。本文通过开发图像识别系统的案例，对比了TensorFlow和PyTorch两大主流框架。TensorFlow由Google开发，功能强大，支持多种设备，适合大型项目和工业部署；PyTorch则由Facebook推出，强调灵活性和速度，尤其适用于研究和快速原型开发。通过具体示例代码展示各自特点，并分析其适用场景，帮助读者根据项目需求和个人偏好做出明智选择。
土木林森
166 0
1941623231718325
|
8月前
|
机器学习/深度学习 数据可视化 PyTorch
TensorFlow与PyTorch框架的深入对比：特性、优势与应用场景
【5月更文挑战第4天】本文对比了深度学习主流框架TensorFlow和PyTorch的特性、优势及应用场景。TensorFlow以其静态计算图、高性能及TensorBoard可视化工具适合大规模数据处理和复杂模型，但学习曲线较陡峭。PyTorch则以动态计算图、易用性和灵活性见长，便于研究和原型开发，但在性能和部署上有局限。选择框架应根据具体需求和场景。
1941623231718325
733 4
我菜就爱学
|
8月前
|
PyTorch 算法框架/工具 Python
【pytorch框架】对模型知识的基本了解
【pytorch框架】对模型知识的基本了解
我菜就爱学
67 2

热门文章

最新文章

  • 1
    使用PyTorch实现GPT-2直接偏好优化训练：DPO方法改进及其与监督微调的效果对比
  • 2
    基于Pytorch Gemotric在昇腾上实现GraphSage图神经网络
  • 3
    深度强化学习中SAC算法：数学原理、网络架构及其PyTorch实现
  • 4
    PyTorch FlexAttention技术实践：基于BlockMask实现因果注意力与变长序列处理
  • 5
    面向强化学习的状态空间建模：RSSM的介绍和PyTorch实现
  • 6
    PyTorch团队为TorchAO引入1-8比特量化，提升ARM平台性能
  • 7
    TorchOptimizer：基于贝叶斯优化的PyTorch Lightning超参数调优框架
  • 8
    Transformer模型变长序列优化：解析PyTorch上的FlashAttention2与xFormers
  • 9
    使用 PyTorch-BigGraph 构建和部署大规模图嵌入的完整教程
  • 10
    Ascend Extension for PyTorch的源码解析
  • 1
    使用PyTorch实现L1, L2和Elastic Net正则化
    114
  • 2
    TensorFlow与PyTorch框架的深入对比：特性、优势与应用场景
    733
  • 3
    【Python机器学习专栏】PyTorch在深度学习中的应用
    213
  • 4
    PyTorch与NLP：自然语言处理的深度学习实战
    660
  • 5
    【pytorch框架】对模型知识的基本了解
    67
  • 6
    TensorFlow与PyTorch在Python面试中的对比与应用
    253
  • 7
    PyTorch在NLP任务中的应用：文本分类、序列生成等
    106
  • 8
    PyTorch分布式训练：加速大规模数据集的处理
    301
  • 9
    PyTorch模型优化与调优：正则化、批归一化等技巧
    290
  • 10
    PyTorch与迁移学习：利用预训练模型提升性能
    182

    • 相关课程

    更多
  • 机器学习基础与回归算法
  • 深度学习理论与实战（基于TensorFlow实现）
  • 南瓜书《机器学习公式推导》
  • 计算机视觉类比赛汇总
  • 特征工程简介
  • 机器学习集成学习与模型融合

    • 相关电子书

    更多
  • 机器学习中，使用Scikit-Leam简单处理文本数据
  • 纯干货|机器学习中梯度下降法的分类及对比分析
  • 纯干货 | 机器学习中梯度下降法的分类及对比分析

    • 相关实验场景

    更多
  • 如何快速训练大模型
  • 使用PAI-快速开始，低代码实现大语言模型微调和部署
  • 推荐系统入门之使用ALS算法实现打分预测

    • 推荐镜像

    更多
  • pytorch-wheels
  • python-release
  • blender
    • 下一篇
    阿里云开通OSS存储服务详细流程