Perceptron的简介、原理
感知机是由美国学者FrankRosenblatt 在1957 年提出来的,被看作为神经网络(深度学习)的起源的算法。
三功能:加权,求和,激励
感知机的权重在训练过程中基于训练数据确定。
神经元会计算传送过来的信号的总和,只有当这个总和超过了某个界限值时,才会输出1。这也称为“神经元被激活” 。这里将这个界限值称为阈值,用符号θ 表示。
1、感知机来解决简单的问题
使用感知机可以表示与门、与非门、或门的逻辑电路。这里重要的一点是:与门、与非门、或门的感知机构造是一样的。实际上,3 个门电路只有参数的值(权重和阈值)不同。也就是说,相同构造的感知机,只需通过适当地调整参数的值,就可以像“变色龙演员”表演不同的角色一样,变身为与门、与非门、或门。
2、感知机的局限性
Perceptron Can not solve XOR problem。使用感知机可以实现与门、与非门、或门三种逻辑电路。但是无法解决异或门(XOR gate)。
XOR:仅当x1 或x2 中的一方为1 时,才会输出1;“异或”是拒绝其他的意思。
(1)、或门:灰色区域是感知机输出0 的区域。图中直线可以将这4 个点正确地分开。
异或门:○和△表示异或门的输出。图中无法找到一条直线分割○和△的空间。
1)、实际上,感知机的绝妙之处在于它可以“叠加层”。
(2)、通过组合与门、与非门、或门实现异或门
多层感知机