AI 助理
备案控制台
开发者社区 人工智能 文章 正文

矩阵分解和信息论基础

2022-04-26 140
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 机器学习中常见的矩阵分解有特征分解和奇异值分解。先提一下矩阵的特征值和特征向量的定义

一、矩阵分解

机器学习中常见的矩阵分解有特征分解和奇异值分解。


先提一下矩阵的特征值和特征向量的定义


若矩阵 A AA 为方阵，则存在非零向量 x xx 和常数 λ \lambdaλ 满足 A x = λ x Ax=\lambda xAx=λx，则称 λ \lambdaλ 为矩阵 A AA 的一个特征值，x xx 为矩阵 A AA 关于 λ \lambdaλ 的特征向量。

image.png

二、信息论

熵(Entropy)

信息熵，可以看作是样本集合纯度一种指标，也可以认为是样本集合包含的平均信息量。

image.png

image.png

image.png


文章标签：
机器学习/深度学习
山顶夕景
目录
相关文章
theMilkyWay`
|
10月前
|
机器学习/深度学习 存储 算法
机器学习面试笔试知识点之非监督学习-K 均值聚类、高斯混合模型（GMM）、自组织映射神经网络（SOM）
机器学习面试笔试知识点之非监督学习-K 均值聚类、高斯混合模型（GMM）、自组织映射神经网络（SOM）
theMilkyWay`
85 0
BetterBench
|
1月前
|
机器学习/深度学习 算法 搜索推荐
【机器学习】凸集、凸函数、凸优化、凸优化问题、非凸优化问题概念详解
本文解释了凸集、凸函数、凸优化以及非凸优化的概念，并探讨了它们在机器学习中的应用，包括如何将非凸问题转化为凸问题的方法和技术。
BetterBench
58 0
小小何先生
|
机器学习/深度学习 资源调度 并行计算
经典机器学习系列(一)【 贝叶斯分类、 最大似然估计、 最大后验概率估计】
经典机器学习系列(一)【 贝叶斯分类、 最大似然估计、 最大后验概率估计】
小小何先生
197 0
JarodYv
|
机器学习/深度学习 存储 人工智能
什么是概率图模型?
概率图模型是机器学习的一个分支，重点研究如何利用概率分布描述真实世界并对其做出有价值的预测。本教程对图模型的讨论将分为三个主要部分：表示（如何描述模型）、推理（如何向模型提问）和学习（如何用现实数据训练模型）。这三个主题相辅相成，从零开始一步一步带你深入理解最前沿的因果AI理论。
JarodYv
179 0
什么是概率图模型?
倪桦
|
机器学习/深度学习 算法
学习笔记： 机器学习经典算法-多项式回归
机器学习经典算法-个人笔记和学习心得分享
倪桦
120 0
爱睡觉的咋
|
机器学习/深度学习 算法
机器学习中的数学原理——多项式回归
机器学习中的数学原理——多项式回归
爱睡觉的咋
334 0
爱睡觉的咋
|
机器学习/深度学习
机器学习中的数学原理——最小二乘法
机器学习中的数学原理——最小二乘法
爱睡觉的咋
170 0
机器学习中的数学原理——最小二乘法
爱睡觉的咋
|
机器学习/深度学习 Python
机器学习中的数学原理——似然函数
机器学习中的数学原理——似然函数
爱睡觉的咋
193 0
机器学习中的数学原理——似然函数
壹佰、
|
机器学习/深度学习 人工智能 移动开发
【机器学习】线性分类——高斯判别分析GDA（理论+图解+公式推导）
【机器学习】线性分类——高斯判别分析GDA（理论+图解+公式推导）
壹佰、
326 0
【机器学习】线性分类——高斯判别分析GDA（理论+图解+公式推导）
壹佰、
|
机器学习/深度学习 人工智能 移动开发
【机器学习】线性分类——朴素贝叶斯分类器NBC（理论+图解+公式推导）
【机器学习】线性分类——朴素贝叶斯分类器NBC（理论+图解+公式推导）
壹佰、
137 0
【机器学习】线性分类——朴素贝叶斯分类器NBC（理论+图解+公式推导）