AiCharm_社区达人页

2023年05月

• 05.14 14:06:28
  发表了文章 2023-05-14 14:06:28

  计算机视觉论文速递（三）YOLO-Pose：《Enhancing YOLO for Multi Person Pose .....》实时性高且易部署的姿态估计模型

  现有的基于Heatmap的两阶段方法并不是最优的，因为它们不是端到端训练的，且训练依赖于替代L1损失，不等价于最大化评估度量，即目标关键点相似度(OKS)。
• 05.14 13:59:58
  发表了文章 2023-05-14 13:59:58

  深度学习实战（四）：行人跟踪与摔倒检测报警

   本项目的目的是为了给大家提供跟多的实战思路，抛砖引玉为大家提供一个案例，也希望读者可以根据该方法实现更多的思想与想法，也希望读者可以改进该项目种提到的方法，比如改进其中的行人检测器、跟踪方法、行为识别算法等等。
• 05.14 13:50:46
  发表了文章 2023-05-14 13:50:46

  深度学习论文阅读目标检测篇（四）中英文对照版：YOLOv1《 You Only Look Once: Unified, Real-Time Object Detection》

  我们提出了 YOLO，一种新的目标检测方法。以前的目标检测工 作重复利用分类器来完成检测任务。相反，我们将目标检测框架看作 回归问题，从空间上分割边界框和相关的类别概率。单个神经网络在 一次评估中直接从整个图像上预测边界框和类别概率。由于整个检测 流水线是单一网络，因此可以直接对检测性能进行端到端的优化。
• 05.13 21:50:48
  发表了文章 2023-05-13 21:50:48

  动手学强化学习（四）：时序差分算法 （Temporal Difference）

  但这在大部分场景下并不现实，机器学习的主要方法都是在数据分布未知的情况下针对具体的数据点来对模型做出更新的。对于大部分强化学习现实场景（例如电子游戏或者一些复杂物理环境），其马尔可夫决策过程的状态转移概率是无法写出来的，也就无法直接进行动态规划。在这种情况下，智能体只能和环境进行交互，通过采样到的数据来学习，这类学习方法统称为无模型的强化学习（model-free reinforcement learning）。
• 05.13 21:34:38
  发表了文章 2023-05-13 21:34:38

  ImportError: cannot import name ‘get_config‘ from ‘tensorflow.python.eager.context‘ 报错解决

  模型中的Keras版本为2.4.3，我安装的时候直接
• 05.13 21:31:56
  发表了文章 2023-05-13 21:31:56

  加载模型出现-RuntimeError: Error(s) in loading state_dict for Net:unexpected key(s) in state_dict: XXX

  加载模型出现-RuntimeError: Error(s) in loading state_dict for Net:unexpected key(s) in state_dict: XXX
• 05.13 21:30:31
  发表了文章 2023-05-13 21:30:31

  计算机视觉论文速递（二）NAT：超越 Swin、ConvNeXt 的Neighborhood Attention Transformer

  在FLOPs和内存使用方面，与相同的感受野大小带有Shifted Window Attention的Swin-Transformer相同，但是NAT受到的约束更少。
• 05.13 21:25:19
  发表了文章 2023-05-13 21:25:19

  TensorFlow训练报错：ResourceExhaustedError: OOM when allocating tensor device:GPU:0 by allocator G

  如果在notebook中运行了很多代码，则会占用一定的内存，上面的代码顾名思义就是清楚掉之前运行的一些session，以释放空间。
• 05.13 21:23:39
  发表了文章 2023-05-13 21:23:39

  动手学强化学习（三）：动态规划算法 （Dynamic Programming）

  动态规划（dynamic programming）是程序设计算法中非常重要的内容，能够高效解决一些经典问题，例如背包问题和最短路径规划。动态规划的基本思想是将待求解问题分解成若干个子问题，先求解子问题，然后从这些子问题的解得到目标问题的解。动态规划会保存已解决的子问题的答案，在求解目标问题的过程中，需要这些子问题答案时就可以直接利用，避免重复计算。本章介绍如何用动态规划的思想来求解在马尔可夫决策过程中的最优策略。

  
• 05.13 21:01:50
  发表了文章 2023-05-13 21:01:50

  深度学习经典网络解析目标检测篇（二）：Fast R-CNN

  R-CNN网络训练、测试繁琐：R-CNN网络训练过程分为ILSVRC 2012样本下有监督预训练、PASCAL VOC 2007该特定样本下的微调、20类即20个SVM分类器训练、20类即20个Bounding-box回归器训练，该训练流程繁琐复杂；同理测试过程也包括提取建议框、提取CNN特征、SVM分类和Bounding-box回归等步骤，过于繁琐；
• 05.13 20:46:41
  发表了文章 2023-05-13 20:46:41

  计算机视觉论文速递（一）SepViT：Separable Vision Transformer 可分离视觉Transformer

  为了解决这些问题，作者受深度可分离卷积启发设计了深度可分离Vision Transformers，缩写为SepViT。SepViT通过一个深度可分离Self-Attention促进Window内部和Window之间的信息交互。并群欣设计了新的Window Token Embedding和分组Self-Attention方法，分别对计算成本可忽略的Window之间的注意力关系进行建模，并捕获多个Window的长期视觉依赖关系。
• 05.13 20:36:55
  发表了文章 2023-05-13 20:36:55

  PyTorch可视化利器Visdom

  在深度学习领域，模型训练是一个必须的过程，因此常常需要实时监听并可视化一些数据，如损失值Loss，正确率Acc等。在Tensorflow中，最常使用的工具非Tensorboard莫属；在Pytorch中，也有类似的TensorboardX，但据说其在张量数据加载的效率方面不如visdom。visdom是FaceBook开发的一款可视化工具github地址，其实质是一款在网页端的web服务器，对Pytorch的支持较好， 可以直接对Tensor进行操作。
• 05.13 20:27:12
  发表了文章 2023-05-13 20:27:12

  深度学习论文阅读目标检测篇（三）：Faster R-CNN《 Towards Real-Time Object Detection with Region Proposal Networks》

   最先进的目标检测网络依靠region proposal算法来推理检测目标的位置。SPPnet[1]和Fast R-CNN[2]等类似的研究已经减少了这些检测网络的运行时间，使得region proposal计算成为一个瓶颈。在这项工作中，我们引入了一个region proposal网络（RPN），该网络与检测网络共享整个图像的卷积特征，从而使近乎零成本的region proposal成为可能。
• 05.13 20:15:24
  发表了文章 2023-05-13 20:15:24

  动手学强化学习（二）：马尔可夫决策过程 （Markov decision process，MDP）

   马尔可夫决策过程（Markov decision process，MDP）是强化学习的重要概念。要学好强化学习，我们首先要掌握马尔可夫决策过程的基础知识。前两章所说的强化学习中的环境一般就是一个马尔可夫决策过程。与多臂老虎机问题不同，马尔可夫决策过程包含状态信息以及状态之间的转移机制。如果要用强化学习去解决一个实际问题，第一步要做的事情就是把这个实际问题抽象为一个马尔可夫决策过程，也就是明确马尔可夫决策过程的各个组成要素。本章将从马尔可夫过程出发，一步一步地进行介绍，最后引出马尔可夫决策过程。
• 05.13 19:34:23
  发表了文章 2023-05-13 19:34:23

  深度学习经典网络解析目标检测篇（一）：R-CNN

  目标检测（Object Detection) 就是一种基于目标几何和统计特征的图像分割，它将目标的分割和识别合二为一，通俗点说就是给定一张图片要精确的定位到物体所在位置，并完成对物体类别的识别。其准确性和实时性是整个系统的一项重要能力。
• 05.13 19:17:07
  发表了文章 2023-05-13 19:17:07

  深度学习论文阅读目标检测篇（二）：Fast R-CNN《Fast R-CNN》

  本文提出了一种快速的基于区域的卷积网络方法（fast R-CNN） 用于目标检测。Fast R-CNN 建立在以前使用的深卷积网络有效地分 类目标的成果上。相比于之前的研究工作，Fast R-CNN 采用了多项创 新提高了训练和测试速度，同时也提高了检测准确度。
• 05.13 18:40:39
  发表了文章 2023-05-13 18:40:39

  动手学强化学习（一）：多臂老虎机 Multi-armed Bandit

   强化学习关注智能体和环境交互过程中的学习，这是一种试错型学习（trial-and-error learning）范式。在正式学习强化学习之前，我们需要先了解多臂老虎机问题，它可以被看作简化版的强化学习问题。与强化学习不同，多臂老虎机不存在状态信息，只有动作和奖励，算是最简单的“和环境交互中的学习”的一种形式。多臂老虎机中的探索与利用（exploration vs. exploitation）问题一直以来都是一个特别经典的问题，理解它能够帮助我们学习强化学习。
• 05.12 20:58:31
  发表了文章 2023-05-12 20:58:31

  深度学习实战（三）：使用PyTorch搭建VGG网络

  但是VGG网络有 VGG-13、VGG-16等多种网络结构，我们能不能将这几种结构通过代码集合成一个模型呢？
• 05.12 20:52:32
  发表了文章 2023-05-12 20:52:32

  深度学习论文阅读目标检测篇（一）：R-CNN《Rich feature hierarchies for accurate object detection and semantic...》

   过去几年，在经典数据集PASCAL上，物体检测的效果已经达到 一个稳定水平。效果最好的方法是融合了多种低维图像特征和高维上 下文环境的复杂集成系统。在这篇论文里，我们提出了一种简单并且 可扩展的检测算法，可以在VOC2012最好结果的基础上将mAP值提 高30%以上——达到了53.3%。

  
• 05.12 20:40:53
  发表了文章 2023-05-12 20:40:53

  深度学习经典网络解析图像分类篇（七）：ResNet

   如果说你对深度学习略有了解，那你一定听过大名鼎鼎的ResNet，正所谓ResNet 一出，谁与争锋？现如今2022年，依旧作为各大CV任务的backbone，比如ResNet-50、ResNet-101等。ResNet是2015年的ImageNet大规模视觉识别竞赛（ImageNet Large Scale Visual Recognition Challenge, ILSVRC）中获得了图像分类和物体识别的冠军，是中国人何恺明、张祥雨、任少卿、孙剑在微软亚洲研究院（AI黄埔军校）的研究成果。
• 05.12 20:35:06
  发表了文章 2023-05-12 20:35:06

  深度学习论文阅读图像分类篇（六）：SENet《Squeeze-and-Excitation Networks》

  卷积神经网络建立在卷积运算的基础上，通过融合局部感受野内 的空间信息和通道信息来提取信息特征。为了提高网络的表示能力， 许多现有的工作已经表明增强空间编码的好处。
• 05.12 20:28:01
  发表了文章 2023-05-12 20:28:01

  深度学习论文阅读图像分类篇（五）：ResNet《Deep Residual Learning for Image Recognition》

  更深的神经网络更难训练。我们提出了一种残差学习框架来减轻 网络训练，这些网络比以前使用的网络更深。我们明确地将层变为学 习关于层输入的残差函数，而不是学习未参考的函数。我们提供了全 面的经验证据说明这些残差网络很容易优化，并可以显著增加深度来 提高准确性。在 ImageNet 数据集上我们评估了深度高达 152 层的残 差网络——比 VGG[40]深 8 倍但仍具有较低的复杂度。这些残差网络 的集合在 ImageNet 测试集上取得了 3.57%的错误率。这个结果在 ILSVRC 2015 分类任务上赢得了第一名。我们也在 CIFAR-10 上分析 了 100 层和 1000 层的残差网络。
• 05.12 20:18:54
  发表了文章 2023-05-12 20:18:54

  深度学习经典网络解析图像分类篇（六）：GoogLeNet

   GoogLeNet是2014年Christian Szegedy提出的一种全新的深度学习结构，在这之前的AlexNet、VGG等结构都是通过增大网络的深度（层数）来获得更好的训练效果，但层数的增加会带来很多负作用，比如过拟合、梯度消失、梯度爆炸等。
• 05.12 20:13:06
  发表了文章 2023-05-12 20:13:06

  深度学习论文阅读（四）：GoogLeNet《Going Deeper with Convolutions》

  我们在 ImageNet 大规模视觉识别挑战赛 2014（ILSVRC14）上 提出了一种代号为 Inception 的深度卷积神经网络结构，并在分类和 检测上取得了新的最好结果。这个架构的主要特点是提高了网络内部 计算资源的利用率。通过精心的手工设计，我们在增加了网络深度和 广度的同时保持了计算预算不变。为了优化质量，架构的设计以赫布 理论和多尺度处理直觉为基础。我们在 ILSVRC14 提交中应用的一个 特例被称为 GoogLeNet，一个 22 层的深度网络，其质量在分类和检 测的背景下进行了评估。
• 05.12 20:05:47
  发表了文章 2023-05-12 20:05:47

  深度学习实战（一）：LeNet实现CIFAR-10图像分类

  利用torchvision.datasets函数可以在线导入pytorch中的数据集，包含一些常见的数据集如MNIST、CIFAR-10等。本次使用的是CIFAR10数据集，也是一个很经典的图像分类数据集，由 Hinton 的学生 Alex Krizhevsky 和 Ilya Sutskever 整理的一个用于识别普适物体的小型数据集，一共包含 10 个类别的 RGB 彩色图片。
• 05.12 19:59:56
  发表了文章 2023-05-12 19:59:56

  深度学习经典网络解析图像分类篇（五）：VGG

   VGGNet是在ImageNet Challenge 2014在定位和分类过程中分别获得了第一名和第二名的神经网络架构。VGGNet是牛津大学计算机视觉组和DeepMind公司的研究员一起研发的深度卷积神经网络。VGG主要探究了卷积神经网络的深度和其性能之间的关系，通过反复堆叠3×3的小卷积核和2×2的最大池化层，VGGNet成功的搭建了16-19层的深度卷积神经网络。
• 05.12 19:50:41
  发表了文章 2023-05-12 19:50:41

  深度学习论文阅读图像分类篇（三）：VGGNet《Very Deep Convolutional Networks for Large-Scale Image Recognition》

  在这项工作中，我们研究了卷积网络深度在大规模的图像识别环境下对准确性的影响。我们的主要贡献是使用非常小的（3×3）卷积滤波器架构对网络深度的增加进行了全面评估，这表明通过将深度推到 16-19 加权层可以实现对现有技术配置的显著改进。这些发现是我们的 ImageNet Challenge 2014 提交论文的基础，我们的团队在定位和分类过程中分别获得了第一名和第二名。我们还表明，我们的表示对于其他数据集泛化的很好，在其它数据集上取得了最好的结果。
• 05.12 19:43:40
  发表了文章 2023-05-12 19:43:40

  深度学习经典网络解析图像分类篇（四）：DenseNet

  DenseNet是CVPR2017年的Best Paper，它脱离了加深网络层数(ResNet)和加宽网络结构(Inception)来提升网络性能的定式思维，从特征的角度考虑,通过特征重用和旁路(Bypass)设置,既大幅度减少了网络的参数量，又在一定程度上缓解了gradient vanishing问题的产生.结合信息流和特征复用的假设，DenseNet当之无愧成为2017年计算机视觉顶会的年度最佳论文。
• 05.12 19:33:37
  发表了文章 2023-05-12 19:33:37

  深度学习经典网络解析图像分类篇（三）：ZFNet

   ZFNet在2013年 ILSVRC 图像分类竞赛获得冠军，错误率11.19% ，比去年的AlexNet降低了5%，ZFNet是由 Matthew D.Zeiler 和 Rob Fergus 在 AlexNet 基础上提出的大型卷积网络。ZFNet解释了为什么卷积神经网络可以在图像分类上表现的如此出色，以及研究了如何优化卷积神经网络。ZFNet提出了一种可视化的技术，通过可视化，我们就可以了解卷积神经网络中间层的功能和分类器的操作，这样就就可以找到较好的模型。ZFNet还进行消融实验来研究模型中的每个组件，它会对模型有什么影响。
• 05.12 19:28:54
  发表了文章 2023-05-12 19:28:54

  深度学习论文阅读图像分类篇（二）：ZFNet《Visualizing and Understanding Convolutional Networks》

  大型卷积网络模型最近在ImageNet基准测试Krizhevsky等[18]上表现出了令人印象深刻的分类性能。然而，人们还没有明确的理解他们为什么表现如此之好，或者如何改进它们。在本文中，我们将探讨这两个问题。我们介绍了一种新的可视化技术，可以深入了解中间特征层的功能和分类器的操作。
• 05.12 19:22:51
  发表了文章 2023-05-12 19:22:51

  深度学习相关概念：过拟合与欠拟合

  是指学习时选择的模型所包含的参数过多，以至于出现这一模型对已知数据预测的很好，但对未知数据预测得很差的现象。这种情况下模型可能只是记住了训练集数据，而不是学习到了数据特征。
• 05.12 19:18:26
  发表了文章 2023-05-12 19:18:26

  深度学习论文阅读图像分类篇（一）：AlexNet《ImageNet Classification with Deep Convolutional Neural Networks》

   我们训练了一个大型深度卷积神经网络来将 ImageNet LSVRC2010 竞赛的 120 万高分辨率的图像分到 1000 不同的类别中。在测试数据上，我们得到了 top-1 37.5%和 top-5 17.0%的错误率，这个结果比目前的最好结果好很多。
• 05.12 19:00:37
  发表了文章 2023-05-12 19:00:37

  深度学习相关概念：批量归一化

  在训练过程中，每层输入的分布不断的变化，这使得下一层需要不断的去适应新的数据分布，这就会让训练变得非常复杂而且缓慢。为了解决这个问题，就需要设置更小的学习率、更严格的参数初始化。通过使用批量归一化(Batch Normalization, BN)，在模型的训练过程中利用小批量的均值和方差调整神经网络中间的输出
• 05.12 18:51:48
  发表了文章 2023-05-12 18:51:48

  深度学习经典网络解析图像分类篇（一）：LeNet-5

  LeNet-5，这篇是由LeCun和Bengio在1998年撰写的论文（LeCun和Bengio和Hitton成被称为深度学习三巨头，在2018年一起获得图灵奖）。
• 05.12 18:42:39
  发表了文章 2023-05-12 18:42:39

  深度学习经典网络解析图像分类篇（二）：AlexNet

  之所以叫AlexNet网络是因为这篇文章过于经典，后人们常常哪来在论文中比较，将论文的一作（Alex Krizhevsky）与Net结合，故称做AlexNet。AlexNet是在2010年ImageNet大赛获得冠军的一个神经网络，它引入图像增强，Dropout等技术，同时把网络分布在两个GPU进行计算，大大提高了运算效率，并且在ILSVRC-2012竞赛中获得了top-5测试的15.3%error rate， 获得第二名的方法error rate 是 26.2%，比第二名高了近10个点。
• 05.12 18:31:37
  发表了文章 2023-05-12 18:31:37

  深度学习相关概念：权重初始化

  权重初始化（weight initialization）又称参数初始化，在深度学习模型训练过程的本质是对weight（即参数 W）进行更新，但是在最开始训练的时候是无法更新的，这需要每个参数有相应的初始值。在进行权重初始化后，神经网络就可以对权重参数w不停地迭代更新，以达到较好的性能
• 05.12 18:22:55
  发表了文章 2023-05-12 18:22:55

  深度学习相关概念：动量法与自适应梯度

  在梯度下降的每一步中，我们都用到了所有的训练样本，我们需要进行求和运算，在梯度下降中，在计算微积随机梯度下降（SGD）
• 05.12 18:19:04
  发表了文章 2023-05-12 18:19:04

  深度学习部署：Windows安装pycocotools报错解决方法

   pycocotools即python api tools of COCO。COCO是一个大型的图像数据集，用于目标检测、分割、人的关键点检测、素材分割和标题生成
• 05.12 18:15:43
  发表了文章 2023-05-12 18:15:43

  深度学习相关概念：梯度下降

   在深度学习中，你一定听说过“梯度下降”，在绝大部分的神经网络模型里有直接或者间接地使用了梯度下降的算法。深度学习的核心：就是把数据喂给一个人工设计的模型，然后让模型自动的“学习”，通过反向传播进而优化模型自身的各种参数，最终使得在某一组参数下该模型能够最佳的匹配该学习任务。
• 05.12 18:11:46
  发表了文章 2023-05-12 18:11:46

  深度学习相关概念：计算图与反向传播

  在深度学习分类问题中，反向传播是一个重要的环节，它决定着模型是否能被训练，反向传播相当于一个负反馈，当一件事做完之后，会寻找当前事件做的不好的问题，进行回传，当下次在做的时候，进行优化。
• 05.12 18:07:39
  发表了文章 2023-05-12 18:07:39

  深度学习相关概念：交叉熵损失

   我在学习深度学习的过程中，发现交叉熵损失在分类问题里出现的非常的频繁，但是对于交叉熵损失这个概念有非常的模糊，好像明白又好像不明白，因此对交叉熵损失进行了学习。
• 05.12 18:03:24
  发表了文章 2023-05-12 18:03:24

  论文笔记：SpectralFormer Rethinking Hyperspectral Image Classification With Transformers_外文翻译

   高光谱(HS)图像具有近似连续的光谱信息，能够通过捕获细微的光谱差异来精确识别物质。卷积神经网络(CNNs)由于具有良好的局部上下文建模能力，在HS图像分类中是一种强有力的特征提取器。然而，由于其固有的网络骨干网的限制，CNN不能很好地挖掘和表示谱特征的序列属性。
• 05.12 17:56:35
  发表了文章 2023-05-12 17:56:35

  11.1 迁移学习【李沐-斯坦福21秋季：实用机器学习中文版】

   迁移学习就是能在一个任务上学习一个模型，然后用其来解决相关的别的任务，这样我们在一个地方花的时间，学习的一些知识，研究的一些看法可以在另外一个地方被使用到； 例如，如果你已经训练好一个神经网络，能够识别像猫这样的对象，然后使用那些知识，或者部分习得的知识去帮助您更好地阅读x射线扫描图，这就是所谓的迁移学习。

  
• 05.12 17:52:59
  发表了文章 2023-05-12 17:52:59

  Spatial-Spectral Transformer for Hyperspectral Image Classification_外文翻译

   由于成像光谱学的进步，高光谱传感器倾向于以越来越高的空间和光谱分辨率捕获给定场景的反射强度[1]。获得的高光谱图像（HSI）同时包含空间特征和不同物体的连续诊断光谱[2]。因此，获得的丰富信息使HSI在许多领域有用，包括有效测量农业绩效[3]、植物病害检测[4]、矿物鉴定[5]、疾病诊断和图像引导手术[6]、生态系统测量[7]，和地球监测[8]。为了充分利用获得的HSI，已经探索了许多数据处理技术，例如解混合、检测和分类[8]。
• 05.12 17:45:48
  发表了文章 2023-05-12 17:45:48

  ML Visuals神经网络画图神器

  ML Visuals 现在包含了 100 多个可用的自定义图形，使用者可以在任何论文、博客、PPT 中使用这些资源。
• 05.12 17:43:49
  发表了文章 2023-05-12 17:43:49

  2.4 特征工程【李沐-斯坦福21秋季：实用机器学习中文版】

  因为机器学习的算法比较喜欢定义的比较好的、它能比较好的去处理的、固定长度的输入输出。
• 05.12 17:41:41
  发表了文章 2023-05-12 17:41:41

  2.3 数据变换【李沐-斯坦福21秋季：实用机器学习中文版】

  通过算法使得均值变为0，方差变为1 。把一列的数据换成是-1到1之间的数据。