似然函数 | 学习笔记

简介: 快速学习似然函数

开发者学堂课程【人工智能必备基础:概率论与数理统计:似然函数】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/545/detail/7418


似然函数

内容介绍

一、似然函数

二、离散情况下

三、连续情况下

 

一、似然函数

1. 给定联合样本值 x 关于参数 θ 的函数: L(θ|x)=f(x|θ) 其中x 是随机变量 X 取得的值,θ 是未知的参数。

2.f(x|θ)是密度函数,表示给定 θ 下的联合密度函数。

3.似然函数是关于 θ 的函数,但是密度函数是关于 x 的函数。

 

二、离散情况下

概率密度函数:

image.png

表示在参数 θ 下的随机变量 X 取到 x 的可能性

image.png

如果有上式成立,则在参数 θ1 下随机变量X取到x值的可能性大于Θ2

 

三、连续情况下

如果 X 是连续随机变量给定足够小的 ε>0 ,那么其在(x-ε,x+ε)内的概率为:

image.png

得到的结果与离散型一致!

无论连续还是离散的概率表达了在给定参数 θ 时 X=x 的可能性

而似然表示的是在给定样本 X=x 时,参数的可能性。

相关文章
|
4月前
|
机器学习/深度学习 算法 调度
多元线性回归梯度下降法
梯度下降法是一种通用的优化算法,尤其适用于机器学习中找到最优解。与解析解法不同,它不局限于特定情况,能在数据规模较大时依然有效。该方法通过迭代逐步接近最优解,每次迭代利用损失函数的梯度信息调整参数。学习率是控制参数更新幅度的关键因素,太大会导致发散,太小则收敛慢。全量梯度下降每次使用所有样本更新,收敛稳定但速度慢;随机梯度下降每次仅用一个样本,速度快但可能产生较大波动;小批量梯度下降取两者之间,以一定的样本批量进行更新,兼顾速度和稳定性。
54 1
|
4月前
R语言多项式线性模型:最大似然估计二次曲线
R语言多项式线性模型:最大似然估计二次曲线
|
机器学习/深度学习 存储 算法
导数、梯度、最优化方法|学习笔记
快速学习导数、梯度、最优化方法
导数、梯度、最优化方法|学习笔记
|
机器学习/深度学习 算法 搜索推荐
导数、梯度、最优化方法|学习笔记
快速学习导数、梯度、最优化方法
157 0
导数、梯度、最优化方法|学习笔记
|
机器学习/深度学习 算法 开发者
误差反向传播算法-1|学习笔记
快速学习误差反向传播算法-1
误差反向传播算法-1|学习笔记
|
机器学习/深度学习 算法 开发者
误差反向传播算法-2|学习笔记
快速学习误差反向传播算法-2
161 0
误差反向传播算法-2|学习笔记
|
机器学习/深度学习 算法 TensorFlow
梯度下降算法 | 学习笔记
快速学习梯度下降算法
梯度下降算法 | 学习笔记
|
机器学习/深度学习 算法 开发者
参数估计-1| 学习笔记
快速学习参数估计-1。
108 0
参数估计-1| 学习笔记
|
机器学习/深度学习 算法 开发者
参数估计-3| 学习笔记
快速学习参数估计-3。
117 0
参数估计-3| 学习笔记
|
机器学习/深度学习 算法 开发者
参数估计-2| 学习笔记
快速学习参数估计-2。
171 0
参数估计-2| 学习笔记