斯坦福机器学习公开课学习笔记(2)—监督学习 梯度下降

简介: (转载请注明出处:http://blog.csdn.net/buptgshengod)1.感受        这一节课Andrew讲的是监督学习应用中的梯度下降方法(Supervised-Learning,grading and descent)。        公式比较多,不过还比较基础,主要是一些矩阵论的应用。2.笔记         Grading and descent 主要

(转载请注明出处:http://blog.csdn.net/buptgshengod)

1.感受

        这一节课Andrew讲的是监督学习应用中的梯度下降方法(Supervised-Learning,grading and descent)。
        公式比较多,不过还比较基础,主要是一些矩阵论的应用。

2.笔记   

      Grading and descent 主要用到的就是一个回归的思路。整体的流程见下图。

      X1,X2....表示的不同的特征,经过算法H的变化,输出Y1,Y2......。可以用公式表达为,X边上的变量就是我们要回归得到的系数。
     判断公式。这个ml回归中常用的判断公式,当J函数取到最下情况就是我们所需要的结果。
     Andrew形容梯度下降好比一个下山问题。我们首先随机选择出发点,也就是的取值,然后通过J函数求导,不断改变的值,得到最终的回归公式。这就类比于我们一步一步下山,直到山底,值不再变化。
    梯度下降还有一个特点就是最终的值根据不同的出发点而不同。
    

目录
相关文章
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
梯度下降求极值,机器学习&深度学习
梯度下降求极值,机器学习&深度学习
21 0
|
4月前
|
机器学习/深度学习 数据可视化 PyTorch
零基础入门语义分割-地表建筑物识别 Task5 模型训练与验证-学习笔记
零基础入门语义分割-地表建筑物识别 Task5 模型训练与验证-学习笔记
428 2
|
2天前
|
机器学习/深度学习 算法 数据可视化
【Python 机器学习专栏】机器学习中的监督学习与无监督学习
【4月更文挑战第30天】本文探讨了监督学习和无监督学习的概念、原理及应用。监督学习依赖于已知标签,通过学习输入与输出的关系进行预测,如线性回归、逻辑回归等,常用于信用评分、疾病诊断等。无监督学习则在无标签情况下发现数据隐藏结构,如聚类和主成分分析,适用于客户细分、数据可视化等。两者在实际中常结合使用,以提升模型性能和泛化能力。理解这两种方法对于解决复杂数据问题至关重要。
|
19天前
|
机器学习/深度学习 人工智能 运维
|
21天前
|
机器学习/深度学习 人工智能 自然语言处理
|
2月前
|
机器学习/深度学习 算法
机器学习的魔法(二)超越预测的界限-揭秘机器学习的黑科技-探索监督学习中的回归和分类问题
机器学习的魔法(二)超越预测的界限-揭秘机器学习的黑科技-探索监督学习中的回归和分类问题
136 0
|
4月前
|
机器学习/深度学习 人工智能 算法
【人工智能】<吴恩达-机器学习>批量梯度下降&矩阵和向量运算概述
【1月更文挑战第26天】【人工智能】<吴恩达-机器学习>批量梯度下降&矩阵和向量运算概述
|
4月前
|
机器学习/深度学习 人工智能
【人工智能】<吴恩达-机器学习>单变量的线性回归&认识梯度下降
【1月更文挑战第26天】【人工智能】<吴恩达-机器学习>单变量的线性回归&认识梯度下降
|
4月前
|
机器学习/深度学习 人工智能 数据挖掘
【人工智能】<吴恩达-机器学习>监督学习&非监督学习
【1月更文挑战第26天】【人工智能】<吴恩达-机器学习>监督学习&非监督学习
|
4月前
|
机器学习/深度学习 算法
【机器学习】三种梯度下降对比
【1月更文挑战第24天】【机器学习】三种梯度下降对比