期末复习【机器学习】3

简介: 期末复习【机器学习】3

5 贝叶斯(计算)

贝叶斯定理

贝叶斯定理中:先验概率、似然函数和后验概率。举例:在丛林发现某一生物(假设两类:人A或者猩猩B)有长长的手臂C,

先验概率:在丛林中出现猩猩的概率更大,即设是猩猩的概率p(B)为0.7,可得P(A)=0.3;(通过生活中的一些经验得到的,可轻易得到的)
似然函数为p(C|B),即猩猩表现为手臂较长的可能性(似然)较大;

后验概率为p(B|C),即通过手臂较长这个条件判断该生物为猩猩的概率。

所以贝叶斯定理的核心思想是:通过先验概率和似然函数最终求得后验概率。




举例




6 BP(原理、应用)

全连接前馈网络






4x20+20+20x3+3

7 训练技巧(Batch,lr,…)

伪代码

INPUT:数据集 D = {(xi,yi)}(i:1~N)
数据划分:训练集 D1 = {(xi,yi)}(i:1~m)
      测试集 D2= {(xi,yi)}(i:1~p)
训练阶段:
定义学习率 η 
在(0,1)内初始化神经元的连接权值和阈值; 
REPEAT 
  FOR ALL (xk,yk)IN D1 
    根据当前样本的数据计算神经网络输出; 
    计算神经网络输出与标签值的误差; 
    根据误差计算各个参数的下降梯度; 
    根据下降梯度更新参数; 
  END UNTIL 达到迭代次数 
OUTPUT = BP神经网络
测试阶段:
输入:所有(xk,yk)IN D2
根据D2样本的数据计算神经网络的输出;
输出预测准确率;

8 CNN(参数、特征图)

CNN



卷积操作






举例

假设输入的图像为100*100像素(RGB)的图像, 且使用了卷积层进行处理,
其包括100个过滤器,每个的尺寸为5*5,则这个隐藏层需要多少参数(包括偏置参数)?
100*(5*5*3+1)=7600



池化操作


池化操作没有学习的参数



VGG16






相关文章
|
机器学习/深度学习 算法
期末复习【机器学习】2
期末复习【机器学习】2
73 0
|
机器学习/深度学习 算法 数据挖掘
期末复习【机器学习】4
期末复习【机器学习】4
116 0
|
机器学习/深度学习 算法 数据挖掘
期末复习【机器学习】1
期末复习【机器学习】1
165 0
|
6月前
|
机器学习/深度学习 存储 搜索推荐
利用机器学习算法改善电商推荐系统的效率
电商行业日益竞争激烈,提升用户体验成为关键。本文将探讨如何利用机器学习算法优化电商推荐系统,通过分析用户行为数据和商品信息,实现个性化推荐,从而提高推荐效率和准确性。
239 14
|
6月前
|
机器学习/深度学习 算法 数据可视化
实现机器学习算法时,特征选择是非常重要的一步,你有哪些推荐的方法?
实现机器学习算法时,特征选择是非常重要的一步,你有哪些推荐的方法?
114 1
|
6月前
|
机器学习/深度学习 算法 搜索推荐
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
|
6月前
|
机器学习/深度学习 数据采集 算法
解码癌症预测的密码:可解释性机器学习算法SHAP揭示XGBoost模型的预测机制
解码癌症预测的密码:可解释性机器学习算法SHAP揭示XGBoost模型的预测机制
306 0
|
6月前
|
机器学习/深度学习 数据采集 监控
机器学习-特征选择:如何使用递归特征消除算法自动筛选出最优特征?
机器学习-特征选择:如何使用递归特征消除算法自动筛选出最优特征?
912 0
|
6月前
|
机器学习/深度学习 人工智能 算法
探索机器学习中的支持向量机(SVM)算法
【2月更文挑战第20天】 在数据科学与人工智能的领域中,支持向量机(SVM)是一种强大的监督学习算法,它基于统计学习理论中的VC维理论和结构风险最小化原理。本文将深入探讨SVM的核心概念、工作原理以及实际应用案例。我们将透过算法的数学原理,揭示如何利用SVM进行有效的数据分类与回归分析,并讨论其在处理非线性问题时的优势。通过本文,读者将对SVM有更深层次的理解,并能够在实践中应用这一算法解决复杂的数据问题。
82 0
|
6月前
|
机器学习/深度学习 分布式计算 算法
大模型开发:你如何确定使用哪种机器学习算法?
在大型机器学习模型开发中,选择算法是关键。首先,明确问题类型(如回归、分类、聚类等)。其次,考虑数据规模、特征数量和类型、分布和结构,以判断适合的算法。再者,评估性能要求(准确性、速度、可解释性)和资源限制(计算资源、内存)。同时,利用领域知识和正则化来选择模型。最后,通过实验验证和模型比较进行优化。此过程涉及迭代和业务需求的技术权衡。
104 2