后验概率估计 | 学习笔记

简介: 快速学习后验概率估计

开发者学堂课程【人工智能必备基础:概率论与数理统计:后验概率估计】学习笔记,与课程紧密联系,让用户快速学习知识。

课程地址:https://developer.aliyun.com/learning/course/545/detail/7403


后验概率估计

内容介绍

一、回顾最大似然估计

二、最大后验概率有区别吗

三、最大后验估计

 

一、回顾最大似然估计

找到最合适的参数使其满足数据

image.png

最大似然估计

image.png

如果一件事,正例的出现了 8 次,负例出现了 2 次,如何求解呢?

求解的目标

image.png

该求导了

image.png

 

二.最大后验概率有区别吗

要求的东西变了吗?没有,都是做参数估计

问题变得复杂一点了,现在多了一个先验知识

优化的目标:

image.png

根据贝叶斯公式:

image.png

这两项分别是什么?有点眼熟

 

三、最大后验估计

p(X|μ)这是似然的部分,p(μ)这是先验知识

怎么进行求解呢?照样,但是多了个先验,这个得先写出来

image.png

假设参数有一个先验服从 Beta 分布

image.png

我们要试验的任务当做一个伯努利实验,每次都是一个二项分布

image.png

目标这就来了:

image.png

相关文章
|
10月前
|
算法 Python
R语言随机波动模型SV:马尔可夫蒙特卡罗法MCMC、正则化广义矩估计和准最大似然估计上证指数收益时间序列
R语言随机波动模型SV:马尔可夫蒙特卡罗法MCMC、正则化广义矩估计和准最大似然估计上证指数收益时间序列
|
10月前
|
数据可视化
R语言极值推断:广义帕累托分布GPD使用极大似然估计、轮廓似然估计、Delta法
R语言极值推断:广义帕累托分布GPD使用极大似然估计、轮廓似然估计、Delta法
|
10月前
R语言异方差回归模型建模:用误差方差解释异方差
R语言异方差回归模型建模:用误差方差解释异方差
|
10月前
|
机器学习/深度学习 算法
【MATLAB】交叉验证求光滑因子的广义神经网络回归预测算法
【MATLAB】交叉验证求光滑因子的广义神经网络回归预测算法
106 0
第8章 概率统计——8.3 累积概率分布
第8章 概率统计——8.3 累积概率分布
第8章 概率统计——8.3 累积概率分布
|
机器学习/深度学习 资源调度 并行计算
经典机器学习系列(一)【 贝叶斯分类、 最大似然估计、 最大后验概率估计】
经典机器学习系列(一)【 贝叶斯分类、 最大似然估计、 最大后验概率估计】
277 0
|
机器学习/深度学习 传感器 算法
基于最大互信息的特征选择算法附matlab代码
基于最大互信息的特征选择算法附matlab代码
|
机器学习/深度学习
先验分布、后验分布、似然估计、贝叶斯估计、最大似然估计
先验分布、后验分布、似然估计、贝叶斯估计、最大似然估计
238 0
先验分布、后验分布、似然估计、贝叶斯估计、最大似然估计
|
算法 固态存储
【双目视觉】 立体匹配算法原理之“代价函数”
Census方法任取左图一个像素点P,观察周围3*3窗口的像素点灰度值,如果小于P就置1,否则为0,然后编码。右图也是如此。最后异或比较,根据异或后的结果,看‘1’的个数,计算汉明距离
232 0
|
机器学习/深度学习 人工智能 资源调度
【机器学习】线性回归——最小二乘法的概率解释高斯噪声(理论+图解+公式推导)
【机器学习】线性回归——最小二乘法的概率解释高斯噪声(理论+图解+公式推导)
358 0
【机器学习】线性回归——最小二乘法的概率解释高斯噪声(理论+图解+公式推导)