跟我一起数据挖掘(12)——特征值和特征向量

简介:

矩阵的特征值和特征向量

是一个阶方阵,是一个数,如果方程

                                                               (1)

存在非零解向量,则称的一个特征值,相应的非零解向量称为属于特征值的特征向量.

   (1)式也可写成,

                                                           (2)

这是个未知数个方程的齐次线性方程组,它有非零解的充分必要条件是系数行列式

                         ,                                    (3)

 即                            

     上式是以为未知数的一元次方程,称为方阵的特征方程. 其左端次多项式,记作,称为方阵的特征多项式.

      ==  

           =

显然,的特征值就是特征方程的解.特征方程在复数范围内恒有解,其个数为方程的次数(重根按重数计算),因此,阶矩阵个特征值.

阶矩阵的特征值为由多项式的根与系数之间的关系,不难证明

(ⅰ)

(ⅱ)

 的一个特征值,则一定是方程的根, 因此又称特征根,若为方程重根,则称为重特征根.方程 的每一个非零解向量都是相应于的特征向量,于是我们可以得到求矩阵的全部特征值和特征向量的方法如下:

     第一步:计算的特征多项式

     第二步:求出特征方程的全部根,即为的全部特征值;

     第三步:对于的每一个特征值,求出齐次线性方程组:

                      

的一个基础解系,则的属于特征值的全部特征向量是

          (其中是不全为零的任意实数).

使用matlab求特征值和特征向量

>>clc;clear;close; 
>>A=[3,-1,-2;2,0,-2;2,-1,-1]; 
>>[X,B]=eig(A) %求矩阵A的特征值和特征向量,其中B的对角线元素是特征值, 
%X的列是相应的特征向量 最后的结果是:
X =
    0.7276   -0.5774    0.6230
    0.4851   -0.5774   -0.2417
    0.4851   -0.5774    0.7439
B =
    1.0000         0         0
         0    0.0000         0
         0         0    1.0000

关于特征值和特征向量的定理

定理 属于不同特征值的特征向量一定线性无关.

相似矩阵

都是阶方阵,若存在满秩矩阵 使得

                     

则称相似,记作 ,且满秩矩阵称为将变为的相似变换矩阵.

“相似”是矩阵间的一种关系,这种关系具有如下性质:

 反身性: 

 对称性:若  ,则 

 传递性:若  ,则 

相似矩阵还具有下列性质:

相似矩阵有相同的特征多项式,因而有相同的特征值.

对角化这个概念是针对矩阵而言的,并且矩阵的对角化源自于线形变换的化简,所以最好先知道线性变换和线性变换与矩阵的对应关系。
设一线性变换a,在基m下的矩阵为A,在基n下的矩阵为B,m到n的过渡矩阵为X,
那么可以证明:B=X-1AX
那么定义:A,B是2个矩阵。如果存在可逆矩阵X,满足B=X-1AX ,那么说A与B是相似的(是一种等价关系)。
如果存在可逆矩阵X使A与一个对角矩阵B相似,那么说A可对角化。
相应的,如果线性变换a在基m下的矩阵为A,并且A相似于对角矩阵B,那么令X为过渡矩阵即可求出基n,并且在n下线性变换a的矩阵为对角矩阵,从而达到了化简。
目录
相关文章
|
机器学习/深度学习 算法 数据可视化
无监督学习的集成方法:相似性矩阵的聚类
在机器学习中,术语Ensemble指的是并行组合多个模型,这个想法是利用群体的智慧,在给出的最终答案上形成更好的共识。
213 0
|
15天前
|
机器学习/深度学习 存储 大数据
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系
在大数据时代,高维数据处理成为难题,主成分分析(PCA)作为一种有效的数据降维技术,通过线性变换将数据投影到新的坐标系,保留最大方差信息,实现数据压缩、去噪及可视化。本文详解PCA原理、步骤及其Python实现,探讨其在图像压缩、特征提取等领域的应用,并指出使用时的注意事项,旨在帮助读者掌握这一强大工具。
32 4
|
4月前
|
机器学习/深度学习 算法 数据挖掘
【机器学习】聚类算法中的距离度量有哪些及公式表示?
聚类算法中常用的距离度量方法及其数学表达式,包括欧式距离、曼哈顿距离、切比雪夫距离、闵可夫斯基距离、余弦相似度等多种距离和相似度计算方式。
356 1
|
6月前
|
机器学习/深度学习 API Python
机器学习特征降维
这篇内容概述了特征降维在机器学习中的重要性,包括三个主要方法:低方差过滤法、PCA(主成分分析)和相关系数法。低方差过滤法通过删除方差低于阈值的特征来减少无关信息;PCA通过正交变换降低数据的维数,保留大部分信息;相关系数法(如皮尔逊和斯皮尔曼相关系数)用于评估特征间的相关性,去除高度相关的特征以简化模型。这些技术有助于提高模型效率和泛化能力。
|
7月前
|
机器学习/深度学习 搜索推荐 数据挖掘
R语言矩阵特征值分解(谱分解)和奇异值分解(SVD)特征向量分析有价证券数据
R语言矩阵特征值分解(谱分解)和奇异值分解(SVD)特征向量分析有价证券数据
|
7月前
|
机器学习/深度学习 数据可视化 算法
数据分享|R语言用主成分PCA、 逻辑回归、决策树、随机森林分析心脏病数据并高维可视化
数据分享|R语言用主成分PCA、 逻辑回归、决策树、随机森林分析心脏病数据并高维可视化
数据分享|R语言用主成分PCA、 逻辑回归、决策树、随机森林分析心脏病数据并高维可视化
|
7月前
|
数据可视化
主成分分析PCA谱分解、奇异值分解SVD预测分析运动员表现数据和降维可视化
主成分分析PCA谱分解、奇异值分解SVD预测分析运动员表现数据和降维可视化
|
7月前
|
机器学习/深度学习 数据可视化 算法
R语言用主成分PCA、 逻辑回归、决策树、随机森林分析心脏病数据并高维可视化
R语言用主成分PCA、 逻辑回归、决策树、随机森林分析心脏病数据并高维可视化
|
机器学习/深度学习 数据采集 资源调度
【推荐系统】推荐场景为什么不可以使用SVD分解共现矩阵
【推荐系统】推荐场景为什么不可以使用SVD分解共现矩阵
173 0
【推荐系统】推荐场景为什么不可以使用SVD分解共现矩阵
|
机器学习/深度学习 API Python
机器学习特征降维2
机器学习特征降维2
60 0