[深度学习入门]Numpy基础(上)

简介: [深度学习入门]Numpy基础(上)

本文的目标受众

机器学习深度学习感兴趣的同学或从业人员,和对PythonPyTorchTensorFlow等感兴趣并希望能再提升一下自己技术的相关人员。

一、前言

  人工智能时代,人工智能的核心就是深度学习。但目前深度学习的框架有很多,像TensorFlowPyTorchFastAI等等,它们都各有各的优缺点。那该选择什么框架进行深度学习的快速入门呢

  如果你是个小白,或是和我一样因为时间所迫没工夫全部学完再开始动手,那么我建议选择PyTorch。在有了一定的基础之后,我们可以学习一些其他的架构,比如TensorFlowCNTK等。

   为什么首推PyTorch呢? 原因有以下几点:

  (1)PyTorch需要手动定义网络层、参数更新等关键的步骤 ,这非常有助于帮助我们快速理解深度学习的核心。而Keras框架虽然也非常简单且容易上手,但封装粒度很粗隐藏了很多关键步骤,往往我们搭完了神经网络对整个的流程还一知半解。

  (2)PyTorch是动态计算图,其用法更贴近 Python。并且,PyTorch 与 Python共用了许多Numpy的命令,可以降低学习的门槛,比 TensorFlow更容易上手

  (3)PyTorch的动态图机制在调试方面非常方便如果计算图运行出错,马上可以跟踪问题。PyTorch的调试与Python的调试一样,通过断点检查就可以高效解决问题

  其余还有开源项目多插件适配等优点,不一一列举了。

  前文回顾[数据分析大全]基于Python的数据分析大全——Numpy基础

  下面继续开始本文的Numpy部分相关讲解


二、Numpy概述

  在机器学习和深度学习中,图像、声音、文本等输入数据最终都要转换为数组或矩阵。如何有效地进行数组和矩阵的运算?这就需要充分利用Numpy

   为什么是Numpy?实际上,Python本身含有列表(list)和数组(array),但对于大数据来说,这些结构是有很多不足。由于列表的元素可以是任何对象,因此列表中所保存的是对象的指针。例如为了保存一个简单的[1,2,3],都需要有3个指针和3个整数对象。对于数值运算来说,这种结构显然比较浪费内存和 CPU等宝贵资源

  至于array对象,它可以直接保存数值,和C语言的一维数组比较类似。但是由于它不支持多维,在上面的函数也不多,因此也不适合做数值运算

  Numpy是数据科学的通用语言,而且与PyTorch关系非常密切,它是科学计算、深度学习的基石。


三、生成Numpy数组

  Numpy是 Python 的外部库不在标准库中。因此,若要使用它,需要先导入Numpy

import numpy as np

  导入 Numpy后,可通过np.+Tab键查看可使用的函数,如果对其中一些函数的使用不是很清楚,还可以在对应函数+?,再运行,就可以很方便地看到如何使用函数的帮助信息

  输入np.然后按Tab键,将出现如下界面:

  运行如下命令,便可查看函数abs的详细帮助信息

np.abs?

  Numpy 不但强大,而且还非常友好。下面将介绍Numpy的一些常用方法,尤其是与机器学习深度学习相关的一些内容。

  Numpy封装了一个新的数据类型 ndarray (N-dimensional Array),它是一个多维数组对象。该对象封装了许多常用的数学运算函数,方便我们做数据处理、数据分析等。

  那么,如何生成ndarray呢

  这里介绍生成ndarray的几种方式,如从已有数据中创建利用random创建创建特定形状的多维数组利用arange、linspace函数生成等。


3.1 从已有数据中创建数组

  直接对 Python的基础数据类型(如列表、元组等)进行转换来生成 ndarray :

  (1)将列表转换成 ndarray :

import numpy as np
lstl =[3.14,2.17,0,1,2]
ndl = np.array(lst1)
print(ndl)
# [3.142.17 0. 1. 2. ]
print(type(ndl))
# <class 'nurmpy.ndarray'>

  (2)嵌套列表可以转换成多维 ndarray :

import numpy as np
lst2 = [[3.14,2.17,0,1,2],[1,2,3,4,5]]
nd2 = np.array(lst2)
print(nd2)
# [[3.14 2.17 0. 1. 2. ]
# [1. 2. 3. 4. 5. ]]
print(type(nd2))
# <class " numpy.ndarray' >

  如果把上面示例中的列表换成元组,也同样适用。


3.2 利用random模块生成数组

  在深度学习中,我们经常需要对一些参数进行初始化,因此为了更有效地训练模型,提高模型的性能。有些初始化还需要满足一定的条件,如满足正态分布均匀分布等。

  这里介绍了几种常用的方法,如下表所示,列举了np.random模块常用的函数

函数 描述
np.random.random 生成0到1之间的随机数
np.random.uniform 生成均匀分布的随机数
np.random.randn 生成标准正态的随机数
np.random.randint 生成随机的整数
np.random.normal 生成正态分布
np.random.shuffle 随机打乱顺序
np.random.seed 设置随机数种子
random_sample 生成随机的浮点数

  下面来看一些函数的具体使用

import numpy as np
nd3 =np.random.random([3,3])
print (nd3)
#[[0.43007219 0.87135582 0.45327073]
# [0.7929617 0.06584697 0.82896613]
# [0.62518386 0.70709239 0.75959122]]
print("nd3的形状为:",nd3.shape)
# nd3的形状为:(3,3)

  为了每次生成同一份数据,可以指定一个随机种子使用shuffle函数打乱生成的随机数

import numpy as np
np.random.seed(123)
nd4 = np.random.randn(2,3)
print(nd4)
np.random.shuffle(nd4)
print("随机打乱后数据:")print (nd4)
print(type(nd4))

  输出结果:

[[-1.0856306 0.99734545  0.2829785]
 [-1.50629471 -0.57860025 1.65143654]]

  随机打乱后数据:

[[-1.50629471 -0.57860025 1.65143654]
 [-1.0856306 0.99734545 0.2829785]]

3.3 创建特定形状的多维数组

  参数初始化时,有时需要生成一些特殊矩阵,如全是0或1的数组或矩阵,这时我们可以利用np.zerosnp.onesnp.diag来实现,如下表所示:

函数 描述
np.zeros((3,4)) 创建3×4的元素全为0的数组
np.ones((3,4)) 创建3×4的元素全为1的数组
np.empty( (2,3)) 创建2×3的空数组,空数据中的值并不为0,而是未初始化的垃圾值
np.zeros_like(ndarr) 以 ndarr相同维度创建元素全为0数组
np.ones_like(ndarr) 以ndarr相同维度创建元素全为1数组
np.empty_like(ndarr) 以ndarr相同维度创建空数组
np.eye(5) 该函数用于创建一个5×5的矩阵,对角线为1,其余为0
np.full((3,5),666) 创建3×5的元素全为666的数组,666为指定值

  下面通过几个示例说明:

import numpy as np
# 生成全是0的3x3矩阵
nd5 = np.zeros([3,3])
#生成与nd5形状一样的全0矩阵
#np .zeros_like(nd5)
#生成全是1的3x3矩阵
nd6 = np. ones([3,3])
#生成3阶的单位矩阵
nd7 = np.eye(3)
#生成3阶对角矩阵
nd8 = np.diag([1,2,3])
print(nd5)
#[[O. 0. 0.]
# [0. 0. 0.]
# [0. 0. 0.]]
print(nd6)
#[[1. 1. 1.]
# [1. 1. 1.]
# [1. 1. 1.]]
print(nd7)
#[[1. 0. 0.]
# [0. 1. 0.]
# [0. 0. 1.]]
print(nd8)
# [[1 0 0]
# [0 2 0]
# [0 0 3]]

  有时还可能需要把生成的数据暂时保存起来,以备后续使用。

import numpy as np
nd9 =np.random.random([5,5])
np.savetxt(×=nd9, fname='./testl.txt')
nd10 = np.loadtxt('./test1.txt ')
print(ndl0)

  输出结果:

[[0.41092437 0.5796943 0.13995076 0.40101756 0.62731701]
[0.32415089 0.24475928 0.69475518 0.5939024 0.63179202]
[0.44025718 0.08372648 0.71233018 0.42786349 0.2977805]
[0.49208478 0.74029639.0.35772892 0.41720995 0.65472131]
[0.37380143 0.23451288 0.98799529 0.76599595 0.77700444]]

3.4 利用arange和linspace函数生成数组

  arange是numpy模块中的函数,其格式为:

arange([start,]stop[,step,],dtype=None)

  其中,start与 stop 用来指定范围,step用来设定步长。在生成一个ndarray时,start 默认为0步长 step 可为小数。Python有个内置函数range,其功能与此类似。

import numpy as np
print(np.arange (10))
#[0 1 2 3 4 5 6 7 8 9]
print(np.arange(0,10))
#[0 1 2 3 4 5 6 7 8 9]
print(np.arange(1,4,0.5))
#[ 1. 1.5 2. 2.5 3. 3.5]
print(np.arange(9,-1,-1))
#[9 8 7 6 5 4 3 2 1 0]

  linspace也是numpy模块中常用的函数,其格式为:

np.linspace(start,stop,num=50,endpoint=True,retstep=False,dtype=None)

  linspace可以根据输入的指定数据范围以及等份数量,自动生成一个线性等分向量

  其中, endpoint(包含终点)默认为True,等分数量num默认为50。如果将retstep设置为True,则会返回一个带步长的ndarray

import numpy as np
print (np .linspace(0,1,10))
#[0. 0.11111111 0.222222220.33333333 0.44444444 0.55555556 0.666666670.77777778 0.88888889 1. ]

  值得一提的是,这里并没有像我们预期的那样,生成0.1,0.2,…1.0这样步长为0.1的ndarray这是因为linspace必定会包含数据起点和终点,那么其步长则为(1-0) /9 =0.11111111。如果需要产生0.1,0.2…,1.0这样的数据,只需要将数据起点0修改为0.1即可。

  除了上面介绍到的arangelinspaceNumpy还提供了logspace函数该函数的使用方法与linspace的使用方法一样,读者不妨自己动手试一下。


四、获取元素

  第三节中我们了解了生成ndarray的几种方法。那在数据生成后,如何读取我们所需要的数据呢?接下来将介绍几种常用获取数据的方法

import numpy as np
np.random.seed(2019)
nd11 = np.random.random([10])
#获取指定位置的数据,获取第4个元素
ndl1[3]
#截取一段数据
ndl1[3:6]
#截取固定间隔数据
ndl1[1:6:2]
#倒序取数nd11[::-2]
#截取一个多维数组的一个区域内数据
ndl2=np.arange(25).reshape([5,5])
nd12[1:3,1:3]
#截取一个多维数组中,数值在一个值域之内的数据ndl2[(ndl2>3)&(ndl2<10)]
#截取多维数组中,指定的行,如读取第2,3行
nd12[[1,2]]        #或nd12[1:3,:]
#截取多维数组中,指定的列,如读取第2,3列
nd12[:,1:3]

  如果对上面这些获取方式还不是很清楚,没关系,下面则将通过图形的方式来进一步说明,如下图所示:

  左边为表达式,右边为表达式获取的元素。注意,不同的边界,表示不同的表达式

  获取数组中的部分元素除了通过指定索引标签来实现外,还可以通过使用一些函数来实现,如通过random.choice函数从指定的样本中随机抽取数据

import numpy as np
from numpy import random as nr
a=np.arange(1,25,dtype=float)
cl=nr.choice(a,size=(3,4)) 
#size指定输出数组形状
c2=nr.choice(a,size=(3,4), replace=False) 
#replace缺省为True,即可重复抽取
#下式中参数p指定每个元素对应的抽取概率,缺省为每个元素被抽取的概率相同。
3=nr.choice(a,size=(3,4),p=a/np.sum(a))
print("随机可重复抽取")
print(c1)
print("随机但不重复抽取")
print(c2)
print("随机但按制度概率抽取")
print(c3)

  打印结果:

# 随机可重复抽取
[[7. 22. 19. 21.]
[ 7. 5. 5. 5. ]
[7. 9.22. 12.]]
# 随机但不重复抽取
[[21. 9. 15. 4.]
[23. 2. 3. 7.]
[13. 5. 6. 1.]]
# 随机但按制度概率抽取
[[15. 19. 24. 8.]
[5. 22. 5. 14.]
22. 13. 17. 1]

五、Numpy的算术运算

  在机器学习和深度学习中,涉及大量的数组或矩阵运算,本节我们将重点介绍两种常用的运算。一种是对应元素相乘,又称为逐元乘法 (Element-Wise Product),运算符为np.multiply( ),或*。另一种是点积或内积元素,运算符为np.dot( )


5.1 对应元素相乘

  对应元素相乘(Element-Wise Product)是两个矩阵中对应元素乘积np.multiply函数用于数组或矩阵对应元素相乘,输出与相乘数组或矩阵的大小一致,其格式如下:

numpy.multiply(x1,,x2,/,out=None,*,where=True,casting='same_kind',order='K',dtype-None,subok=True[,signature,extobj])

  其中x1、x2之间的对应元素相乘遵守广播规则,Numpy的广播规则会在下一篇文章——Numpy基础(下)中介绍。以下我们通过一些示例来进一步说明。

A=np.array([[l,2],[-l,4]])
B=np.array([[2,0],[3,4]])
A*B
# 结果如下:
array([[2,0],[-3,16]])
# 或另一种表示方法np.multiply(A,B)#运算结果也是
array([[2,0],[-3,16]])

  矩阵A和B的对应元素相乘,由下图直观表示。

  Numpy数组不仅可以和数组进行对应元素相乘,还可以和单一数值(或称为标量)进行运算。运算时,Numpy数组中的每个元素都和标量进行运算,其间会用到广播机制(下一篇文章中将会详细讲解)。

print (A*2.0)print(A/2.0)

  输出结果为:

[ [2. 4.]
[-2. 8.]]
[[0.5 1.]
[-0.5 2. ]]

  由此,推广后,数组通过一些激活函数后,输出与输入形状一致

X=np.random.rand(2,3)
def softmoid(x):
  return 1/(1+np.exp(-x))
def relu(x):
  return np.maximum(0,x)
def softmax(x) :
  return np.exp(x)/np.sum(np.exp(X))
print("输入参数x的形状:",X.shape)
print("激活函数softmoid输出形状:",softmoid(x) .shape)
print("激活函数relu输出形状:", relu(X).shape)
print("激活函数softmax输出形状:",softmax(X).shape)

  输出结果:

输入参数x的形状:(2,3)
激活函数softmoid输出形状:(2,3)
激活函数relu输出形状:(2,3)
激活函数softmax输出形状:(2,3)

5.2 点积运算

  点积运算(Dot Product)又称为内积,在 Numpy用np.dot表示,其一般格式为:

numpy.dot(a,b,out=None)

  以下通过一个示例来说明dot的具体使用方法及注意事项。

X1=np.array([[1,2],[3,4]])
x2=np.array([[5,6,7],[8,9,10]])
x3=np.dot(X1,X2)
print(X3)

  输出结果:

[[21 2427]
 [47 5461]]

  以上运算,可用下图表示。

  在上图中,矩阵X1和矩阵X2进行点积运算,其中X1和X2对应维度(即X1的第2个维度与X2的第1个维度)的元素个数必须保持一致。此外,矩阵X3的形状是由矩阵XI的行数与矩阵X2的列数构成的


六、后记

  本篇文章主要讲解了Numpy概述、生成Numpy数组、获取元素和Numpy的算术运算的内容。因为要写的内容太多,就拆为上下篇了。这几天会把Numpy基础的下篇也放出来的。

  感谢各位读者朋友们长期以往的支持!非常感谢!!!


相关文章
|
4月前
|
数据可视化 数据挖掘 C++
一文入门数分三剑客--Numpy、Pandas、Matplotlib
一文入门数分三剑客--Numpy、Pandas、Matplotlib
|
2天前
|
机器学习/深度学习 Python
【深度学习入门】- 神经网络
【深度学习入门】- 神经网络
|
1月前
|
机器学习/深度学习 人工智能 自然语言处理
从零开始学习深度学习:入门指南与实践建议
本文将引导读者进入深度学习领域的大门,从基础概念到实际应用,为初学者提供全面的学习指南和实践建议。通过系统化的学习路径规划和案例实践,帮助读者快速掌握深度学习的核心知识和技能,迈出在人工智能领域的第一步。
|
2月前
|
机器学习/深度学习 TensorFlow 算法框架/工具
深度学习入门:Python 与神经网络
深度学习是机器学习的一个分支,它涉及使用多层神经网络来处理和学习数据。在 Python 中,有许多流行的深度学习库和框架可以帮助我们轻松地构建和训练神经网络模型。在本文中,我们将介绍深度学习的基本概念,并使用 Python 中的 TensorFlow 和 Keras 库来构建一个简单的神经网络模型。
|
2月前
|
C++ 索引 Python
Python Numpy入门基础(二)数组操作
Python Numpy入门基础(二)数组操作
25 0
|
3月前
|
C++ Python 索引
Python Numpy入门基础(二)数组操作
Python Numpy入门基础(二)数组操作
29 0
Python Numpy入门基础(二)数组操作
|
3月前
|
Python 索引
Python Numpy入门基础(一)创建数组
Python Numpy入门基础(一)创建数组
40 0
Python Numpy入门基础(一)创建数组
|
3月前
|
机器学习/深度学习 分布式计算 搜索推荐
深度学习入门:一篇概述深度学习的文章
深度学习入门:一篇概述深度学习的文章
|
4月前
|
机器学习/深度学习 PyTorch TensorFlow
JAX: 快如 PyTorch,简单如 NumPy - 深度学习与数据科学
JAX: 快如 PyTorch,简单如 NumPy - 深度学习与数据科学
45 0
|
5月前
|
机器学习/深度学习
小白入门机器学习深度学习实战教程
小白入门机器学习深度学习实战教程
35 0