在学习之前先看一下：机器学习的数学基础
1 函数定义
首先所有函数都要满足函数定义，函数的输出值是独一无二的。一个输入绝对不能够对应多个输出。比如，一张狗的图片，鉴定后贴标签时，认为既是哈士奇，又是德国牧羊犬。这种结果令人困惑，这样的函数我们也不接受。
1.1 线性函数
线性函数是线性回归模型的基础，也是很多其他机器学习模型中最基本的结构单元。线性函数是只拥有一个变量的一阶多项式函数，函数图像是一条直线。
线性函数适合模拟简单的关系，比如，同一个小区房屋的面积和其售价之间可能会呈现线性的关系。
1.2 二次函数或多次函数
函数中自变量x中最大的指数被称为函数的次数，比如y=x^2就是二次函数。二次函数和多次函数的函数图像更加复杂，因而可以拟合出更为复杂的关系，如下图所示。
1.3 激活函数
这组函数我们在数学课上也许没见过，但是它们都十分简单，它们的作用是在机器学习算法中实现非线性的、阶跃性质的变换。其中的Sigmoid函数在机器学习的逻辑回归模型中起着重要的作用。
2.4 对数函数
函数图像
注：如果不指定对数的底，则称x为自然对数，是以自然常数e为底数的对数。在逻辑回归算法中，我们会见到自然对数作为损失函数而出现。
2 机器学习的数据结构张量
2.1 张量的概念
张量是机器学习程序中的数字容器，本质上就是各种不同维度的数组，如下图所示。我们把张量的维度称为轴（axis）（就是数学中的x轴，y轴，……），轴的个数称为阶（rank）（也就是俗称的维度，但是为了把张量的维度和每个阶的具体维度区分开，这里统一把张量的维度称为张量的阶。NumPy中把它叫作数组的轶）。
2.2 标量——0D（阶）张量
import numpy as np #导入Num Py库 X = np.array(5) #创建0D张量, 也就是标量 print("X的值", X) print("X的阶", X.ndim) #ndim属性显示标量的阶 print("X的数据类型", X.dtype) #dtype属性显示标量的数据类型 print("X的形状", X.shape) #shape属性显示标量的形状
运行结果：
2.3 向量——1D（阶）张量
由一组数字组成的数组叫作向量（vector），也就是一阶张量，或称1D张量。一阶张量只有一个轴。
X = np.array([5,6,7,8,9]) #创建1D张量，也就是向量 print("X的值",X) print("X的阶",X.ndim) #ndim属性显示张量轴的个数 print("X的形状",X.shape) # shape属性显示张量形状
运行结果：
2.4 矩阵——2D（阶）张量
矩阵（matrix）是一组一组向量的集合。矩阵中的各元素横着、竖着、斜着都能构成不同的向量。而矩阵，也就是 2 阶张量，或称 2D 张量，其形状为（m，n）。比如，右图所示是一个形状为（4，3）的张量，也就是4 行 3 列的矩阵,一般就是表格数据长这个样子。
import numpy as np # 导入NumPy数学工具集 list=[1,2,3,4,5] # 创建列表 array_01=np.array([1,2,3,4,5]) # 列表转化成数组 array_02=np.array((6,7,8,9,10)) # 元组转化成数组 array_03=np.array([[1,2,3],[4,5,6]]) # 列表转化成2D数组 print ('列表：', list) print ('列表转化为数组：', array_01) print ('元组转化为数组：', array_02) print ('2D数组：', array_03) print ('数组的形状：', array_01.shape) # print ('列表的形状：', list.shape) # 列表没有形状，程序会报错
运行结果：
2.5 序列数据——3D（阶）张量
# 创建3D张量 X = np.array([[[1, 22, 4, 78, 2], [2, 59, 6, 56, 1], [3, 31, 8, 54, 0]], [[4, 56, 9, 34, 1], [5, 78, 8, 35, 2], [6, 34, 7, 36, 0]], [[7, 45, 5, 34, 5], [8, 53, 6, 35, 4], [9, 81, 4, 36, 5]]])
运行结果：
举个现实的例子：
因为增加了时戳，所以表里面的行列结构显得更为复杂。读取入机器进行处理时，需要把行里面的时间步拆分出来。
第一个轴—样本轴，一年记录下来的数据共365个，也就是365维。
第二个轴—时间步轴，每天一共是24小时，每小时4个15分钟，共96维。
第三个轴—特征轴，一共是温度、湿度、风力3个维度。
因此，这个数据集读入机器之后的张量形状是（365，96，3）。
2.6 图像数据——4D（阶）张量
图像数据本身包含高度、宽度，再加上一个颜色深度通道。MNIST数据集中是灰度图像，只有一个颜色深度通道；而GRB格式的彩色图像，颜色深度通道的维度为3。
因此，对于图像数据集来说，长、宽、深再加上数据集大小这个维度，就形成了 4D 张量（如下图所示），其形状为（样本，图像高度，图像宽度，颜色深度），如MNIST特征数据集的形状为（60000，28，28，1）。
2.7 视频数据——5D（阶）张量
机器学习的初学者很少有机会见到比4D更高阶的张量。如果有，视频数据的结构是其中的一种。
视频可以看作是由一帧一帧的彩色图像组成的数据集。、
■每一帧都保存在一个形状为（高度，宽度，颜色深度） 的3D张量中。
■一系列帧则保存在一个形状为（帧，高度，宽度，颜色深度） 的4D张量中。
因此，视频数据集需要5D张量才放得下，其形状为（样本，帧，高度，宽度，颜色深度）。
可以想象，视频数据的数据量是非常大的（例如，一个10分钟的普通视频，每秒采样3～4帧，这个视频转换成机器能处理的张量后，可能包含上亿的数据量）。面对这种规模的数据，普通的机器学习模型会感到手足无措，只有深度学习模型才能够搞定。
