深度学习第一课:深度学习引言
1.什么是神经网络
Relu函数(线性修正函数)
对于一个房屋价格预测的神经网络如下:
如图所示给定输入变量$x_1,x_2,x_3,x_4$就可以得到对应的输出$y(price)$。
神经网络的优势在于:实现神经网络之后,是要输入$x$就能得到对应的输出$y$,它可以自动计算中间过程,只要训练样本足够,神经网络可以得到关于$x-y$的精准的映射函数。
2.神经网络的监督学习
监督学习是很多神经网络的基础,举例如下:
图像应用:在神经网络上使用卷积网络(Convolutional Neutal Network),缩写为CNN。
序列数据:比如音频应用,一维时间序列,使用RNN,递归神经网络。对于语言类的,也是序列数据,经常用更复杂的RNNs版本。
对于自动驾驶等更复杂的应用,通常需要更多的CNN卷积神经网络,
神经网络例:
神经网络被应用于结构化数据和非结构化数据,
结构化数据:数据有清晰的定义以及基本的数据库
非结构化数据:比如音频,原始音频,要识别图像或文本的内容,特征可能是图像中的像素值或文本中的单个单词。
计算机通常比较善于理解结构化数据,通常处理非结构化数据比较困难,对于人类通常较容易。神经网络的出现给了计算机能够更好的解释非结构化数据。
神经网络获得更好的性能:1.训练一个更大的神经网络,2.投入更多的数据