技术心得:机器学习的数学基础

简介: 技术心得:机器学习的数学基础

概率论和数理统计


随机事件和概率


1.事件的关系与运算


(1) 子事件: ,若 发生,则 发生。


(2) 相等事件: ,即 ,且 。


(3) 和事件: (或 ), 与 中至少有一个发生。


(4) 差事件: , 发生但 不发生。


(5) 积事件: (或 ), 与 同时发生。


(6) 互斥事件(互不相容): 。


(7) 互逆事件(对立事件):


2.运算律


(1) 交换律:


(2) 结合律: ;


(3) 分配律:


3.德 摩根律


4.完全事件组


两两互斥,且和事件为必然事件,即


5.概率的基本公式


(1)条件概率:


,表示 发生的条件下, 发生的概率。


(2)全概率公式:


(3) Bayes公式:


注:上述公式中事件 的个数可为可列个。


(4)乘法公式:


6.事件的独立性


(1) 与 相互独立


(2) , , 两两独立


; ; ;


(3) , , 相互独立


; ;


;


7.独立重复试验


将某试验独立重复 次,若每次实验中事件 发生的概率为 ,则 次试验中 发生 次的概率为:


8.重要公式与结论


(1)


(2)


(3)


(4) ,


(5)条件概率 满足概率的所有性质, 例如:.


(6)若 相互独立,则 ,


(7)互斥、互逆与独立性之间的关系: 与 互逆 与 互斥,但反之不成立, 与 互斥(或互逆)且均非零概率事件 与 不独立。


(8)若 相互独立,则 与 也相互独立,其中 分别表示对相应事件做任意事件运算后所得的事件,另外,概率为1(或0)的事件与任何事件相互独立.


随机变量及其概率分布


1.随机变量及概率分布


取值带有随机性的变量,严格地说是定义在样本空间上,取值于实数的函数称为随机变量,概率分布通常指分布函数或分布律


2.分布函数的概念与性质


定义: F(x) = P(X \leq x), - \infty < x </p>
<p>性质:</p>
<p>(1) </p>
<p>(2)  单调不减</p>
<p>(3) 右连续 </p>
<p>(4) </p>
<p>3.离散型随机变量的概率分布</p>
<p>4.连续型随机变量的概率密度</p>
<p>概率密度  ;非负可积,且:</p>
<p>(1) </p>
<p>(2) </p>
<p>(3)  为  的连续点,则:</p>
<p> 分布函数 </p>
<p>5.常见分布</p>
<p>(1) 0-1分布: </p>
<p>(2) 二项分布:  : </p>
<p>(3) Poisson分布:  :  0,k = 0,1,2\cdots


(4) 均匀分布 : f(x) = \{ \begin{matrix} & \frac{1}{b - a},a < x</p>
<p>(5) 正态分布:  :  0,\infty < x </p>
<p>(6)指数分布:  0,\lambda > 0 \\ & 0, \\ \end{matrix}


(7)几何分布: G(p):P(X = k) = {(1 - p)}^{k - 1}p,0 < p </p>
<p>(8)超几何分布: </p>
<p>6.随机变量函数的概率分布</p>
<p>(1)离散型: </p>
<p>则: </p>
<p>(2)连续型: </p>
<p>则:  ,</p>
<p>7.重要公式与结论</p>
<p>(1)  , </p>
<p>(2) </p>
<p>(3)  s + t|X > s) = P(X > t)


(4) m) = P(X = k)" class=//代码效果参考:http://www.lyjsj.net.cn/wx/art_23450.html

"medium-zoom-image">

(5) 离散型随机变量的分布函数为阶梯间断函数;连续型随机变量的分布函数为连续函数,但不一定为处处可导函数。


(6) 存在既非离散也非连续型随机变量。


多维随机变量及其分布


1.二维随机变量及其联合分布


由两个随机变量构成的随机向量 , 联合分布为


2.二维离散型随机变量的分布


(1) 联合概率分布律


(2) 边缘分布律


(3) 条件分布律


3. 二维连续性随机变量的密度


(1) 联合概率密度 :


1)


2)


(2) 分布函数:


(3) 边缘概率密度:


(4) 条件概率密度:


4.常见二维随机变量的联合分布


(1) 二维均匀分布: ,


(2) 二维正态分布: ,


5.随机变量的独立性和相关性


和 的相互独立: :


(离散型) (连续型)


和 的相关性:


相关系数 时,称 和 不相关,


否则称 和 相关


6.两个随机变量简单函数的概率分布


离散型: 则:


连续型:


则:


,


7.重要公式与结论


(1) 边缘密度公式:


(2)


(3) 若 服从二维Y=y正态分布


则有:


1)


2) 与 相互独立 ,即 与 不相关。


3)


4) 关于 的条件分布为: //代码效果参考:http://www.lyjsj.net.cn/wx/art_23448.html


5) 关于 的条件分布为:


(4) 若 与 独立,且分别服从 <img src="

相关文章
|
30天前
|
机器学习/深度学习 资源调度 算法
机器学习领域必知数学符号与概念(一)
本文介绍了一些数学符号以及这些符号的含义。
160 65
|
4月前
|
机器学习/深度学习 人工智能 自然语言处理
人工智能与机器学习:探索未来的技术边界
【10月更文挑战第18天】 在这篇文章中,我们将深入探讨人工智能(AI)和机器学习(ML)的基础知识、应用领域以及未来趋势。通过对比分析,我们将揭示这些技术如何改变我们的生活和工作方式,并预测它们在未来可能带来的影响。文章旨在为读者提供一个全面而深入的理解,帮助他们更好地把握这一领域的发展趋势。
|
2月前
|
机器学习/深度学习 传感器 运维
使用机器学习技术进行时间序列缺失数据填充:基础方法与入门案例
本文探讨了时间序列分析中数据缺失的问题,并通过实际案例展示了如何利用机器学习技术进行缺失值补充。文章构建了一个模拟的能源生产数据集,采用线性回归和决策树回归两种方法进行缺失值补充,并从统计特征、自相关性、趋势和季节性等多个维度进行了详细评估。结果显示,决策树方法在处理复杂非线性模式和保持数据局部特征方面表现更佳,而线性回归方法则适用于简单的线性趋势数据。文章最后总结了两种方法的优劣,并给出了实际应用建议。
98 7
使用机器学习技术进行时间序列缺失数据填充:基础方法与入门案例
|
2月前
|
编解码 机器人 测试技术
技术实践 | 使用 PAI+LLaMA Factory 微调 Qwen2-VL 模型快速搭建专业领域知识问答机器人
Qwen2-VL是一款具备高级图像和视频理解能力的多模态模型,支持多种语言,适用于多模态应用开发。通过PAI和LLaMA Factory框架,用户可以轻松微调Qwen2-VL模型,快速构建文旅领域的知识问答机器人。本教程详细介绍了从模型部署、微调到对话测试的全过程,帮助开发者高效实现定制化多模态应用。
|
3月前
|
机器学习/深度学习 Python
机器学习中模型选择和优化的关键技术——交叉验证与网格搜索
本文深入探讨了机器学习中模型选择和优化的关键技术——交叉验证与网格搜索。介绍了K折交叉验证、留一交叉验证等方法,以及网格搜索的原理和步骤,展示了如何结合两者在Python中实现模型参数的优化,并强调了使用时需注意的计算成本、过拟合风险等问题。
106 6
|
3月前
|
机器学习/深度学习 搜索推荐 算法
在数字化时代,推荐系统成为互联网应用的重要组成部分,通过机器学习技术根据用户兴趣和行为提供个性化推荐,提升用户体验
在数字化时代,推荐系统成为互联网应用的重要组成部分,通过机器学习技术根据用户兴趣和行为提供个性化推荐,提升用户体验。本文探讨了推荐系统的基本原理、常用算法、实现步骤及Python应用,介绍了如何克服数据稀疏性、冷启动等问题,强调了合理选择算法和持续优化的重要性。
105 4
|
3月前
|
机器学习/深度学习 自然语言处理 语音技术
探索机器学习中的自然语言处理技术
【10月更文挑战第38天】在本文中,我们将深入探讨自然语言处理(NLP)技术及其在机器学习领域的应用。通过浅显易懂的语言和生动的比喻,我们将揭示NLP技术的奥秘,包括其工作原理、主要任务以及面临的挑战。此外,我们还将分享一些实用的代码示例,帮助您更好地理解和掌握这一技术。无论您是初学者还是有经验的开发者,相信您都能从本文中获得宝贵的知识和启示。
52 3
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
思通数科AI平台在尽职调查中的技术解析与应用
思通数科AI多模态能力平台结合OCR、NLP和深度学习技术,为IPO尽职调查、融资等重要交易环节提供智能化解决方案。平台自动识别、提取并分类海量文档,实现高效数据核验与合规性检查,显著提升审查速度和精准度,同时保障敏感信息管理和数据安全。
172 11
|
3月前
|
机器学习/深度学习 数据可视化 算法
机器学习中的特征选择与降维技术
机器学习中的特征选择与降维技术
112 0
|
5月前
|
机器学习/深度学习 数据可视化 JavaScript
探索机器学习模型的可视化技术
【9月更文挑战第23天】在数据科学中,理解和解释机器学习模型的决策过程是至关重要的。本文将介绍几种流行的可视化工具和库,如TensorBoard、D3.js等,帮助读者更好地理解模型内部工作原理及其预测结果。通过实例演示如何使用这些工具进行模型可视化,增强模型的可解释性。