开发者学堂课程【机器学习算法 ：神经网络学习规则3】学习笔记，与课程紧密联系，让用户快速学习知识。
课程地址：https://developer.aliyun.com/learning/course/535/detail/7231
神经网络学习规则3
内容介绍：
一、离散感知器学习规则
二、离散感知器学习规则：例子
一、离散感知器学习规则
感知器( Perceptron )是由 Rosenblatt 定义的具有单层神经计算单元的神经网络结构。实际上为一种前馈网络，同层内无互连,不同层间无反馈，由下层向上层传递，其输入、输出均为离散值，神经元对输入加权求和后，由阈值函数(激活函数)决定其输出。
离散感知器学习规则则代表一种有导师的学习方式 ,其规定将神经元期望输出(教师信号)与实际输出之差作为学习信号， 通过训练调整权值，直到实际输出满足要求(等于或者接近于期望输出)。
教师信号与实际输出之差越小越好，使之小到一个我们可以接受的范围，最好等于零。在这个过程中可以通过调整差值来调整权值。
在该学习规则中，学习信号等于神经元的期望输出与实际输出之差：
(
为输入和输入对应的权值的乘积累加起来，再作用于激活函数
, 如果激活函数为
,则直接代进去)
权值调整公式为:
权向量各个分量调整为: 
离散感知器学习规则的步骤:
（1）初始化权值参数 w，学习速率 η
（2）对每一个样本 ,实际输出和期望输出的差满足要求:
（3）根据输入记录，更新权重值
如果满足要求，退出循环。未满足则继续更新。
二、离散感知器学习规则：例子
阈值：T=0，学习速率：
=0.1 ，初始权值：
，输出样本：
，输出为：
，激活函数：
,使用离散感知器学习规则训练网络。
四个输入
对应四个权值
。三个输入样本。
代入第一个样本
计算 
：
求该样本的学习信号： 
代入第二个样本
计算
：
求该样本的学习信号：
权重更新：
使用新的权重对第二个样本X，计算 
：
求该样本的学习信号：
实际输出和期望输出一致，无需再更新权重：
代入第一个样本
计算
:
求该样本的学习信号：
权重更新：
使用新的权重对第三个样本 X，计算 
：
求该样本的学习信号：
实际输出和期望输出一致，无需再更新权重：
验证：
