感知机学习笔记

简介: 感知机学习笔记

感知机


1.感知机概念


感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1 和 -1 二值。


感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型。


感知机预测是用学习得到的感知机模型对新的输入实例进行分类。


感知机 1957年由 Rosenblatt 提出,是神经网络与支持向量机的基础。

2.感知机公式解析


公式原本是这样的:(不是《统计学习方法》上的)

image.png

image.png

其实对应的就是这张图:

image.png

输出也就是t tt,要么是1 11,要么是− 1 -1−1


感知机由两部分组成,一部分是判断它在分界线的那哪边,另外一部分就是分界线本身,我们熟悉的表达是这样子的,两个变量x xx,y yy和一个常量c cc

image.png

如果是三维可以表现成这样的形式:三个变量x xx,y yy,z zz和一个常量d dd

image.png

那如果是更高的维度呢?显然,画不出来了。。。


所以我们可以想象以下,就用下面这个公式表达出来,变量是x 1 − x n x_1-x_nx 1 −x n ,系数是w 1 − w n w_1-w_nw 1 −w n :

image.png

那么如果这样写,会很占地方,所以简写成:

image.png

那么这个式子就可以表达一个高维度的分界线了。

但是这里公式是等于0的,原始的公式并不是等于0,那么这又是怎么回事呢?

image.png

看这三张图就明白了。

image.png

image.png

image.png

最后再说一下红框里这种公式的表达形式:

image.png

其实这就是矩阵相乘的一种表达形式:

image.png

两个相同维度的向量w ww和x xx的点积可以看作矩阵乘积wTy


目录
打赏
0
0
0
0
11
分享
相关文章
神经网络分类算法原理详解
神经网络分类算法原理详解
313 0
深度学习笔记(一): 神经网络之感知机详解
深度学习笔记(一):探索感知机模型及其在神经网络中的应用。
51 0
深度学习笔记(一): 神经网络之感知机详解
机器学习面试笔试知识点之非监督学习-K 均值聚类、高斯混合模型(GMM)、自组织映射神经网络(SOM)
机器学习面试笔试知识点之非监督学习-K 均值聚类、高斯混合模型(GMM)、自组织映射神经网络(SOM)
135 0
感知机和神经网络
**神经网络**是模仿生物神经元结构的数学模型,用于处理复杂关系和模式识别。它由输入层、隐藏层(可能多层)和输出层组成,其中隐藏层负责信息处理。随着层数增加(深度学习),网络能处理更多信息。基本模型包括感知机,仅输入和输出层,用于线性划分;而**BP神经网络**有多个隐藏层,通过反向传播和梯度下降优化参数,避免局部最小值。训练过程中,神经元通过激励函数响应并调整权重,以提高预测准确性。
神经网络极简入门
神经网络是深度学习的基础,正是深度学习的兴起,让停滞不前的人工智能再一次的取得飞速的发展。
73 0
统计学习-感知机算法
感知机(perceptron):有监督学习、判别模型,SVM的基础
154 0
统计学习-感知机算法
【机器学习】线性分类——感知机算法(理论+图解+公式推导)
【机器学习】线性分类——感知机算法(理论+图解+公式推导)
370 0
【机器学习】线性分类——感知机算法(理论+图解+公式推导)