粒子滤波|机器学习推导系列(十九)

简介: 粒子滤波|机器学习推导系列(十九)

一、概述

N_UFR3)3TAW}K}QYOLXWMKU.png

对于卡尔曼滤波,可以通过高斯分布的性质直接解得其概率分布。但是对于粒子滤波,由于其状态转移概率和发射概率是任意的,所以没办法得到其概率分布,只能通过采样的方法来进行估计,通常我们在实际应用中更加关心的并非概率分布而是概率分布关于某函数的期望,因此本文主要介绍如何通过采样的方法来求某个函数依概率分布的期望。


二、序列重要性采样

P2}0WLFA5J%YVE}I7E97KW0.png

~]82Z54SZMK`G@X[S9~JU68.png


所以有:

BHQA[Z5K$PRA6A`C%(C`E3I.png


三、重要性重采样


重要性重采样(Sampling Importance Resampling,SIR)是在上述SIS基础上进行改进的算法,与SIS相比其添加了两个部分,一个是重采样,另一个是特定的5~ZOW_HARA`TR[TKHJUGJ5U.png概率分布。


  1. 重采样

SIS算法会出现权值退化的现象,在一定时间后可能会出现大部分权重都逼近于image.png的情况。简单解释一下,这主要还是由于维度灾难的问题,在高维空间中需要大量的样本。使用重采样可以缓解这一现象。


下面以0Y971M(Z6ITUYKLB9S7I0)V.png为例来阐述重采样的过程,在下表中展示了3个采样粒子的权重(归一化后的权重可以理解为pdf),并且计算了pdf的cdf:


C)`1`XBH8U{$_WE2K5{5)XK.png

                                                        cdf


(8%4S`LXVTT$5W`V$)Y`80M.png

在SIS的基础上加上重采样,就是基本的粒子滤波算法(Basic Particle Filter)。


  1. 选择合适的提议分布


选择恰当的提议分布也是一种解决权重衰减的方法。这里一个常用的选择就是:


1[KSQM9OJB$NGW({GULN)$3.png

则此时的权重8I]M6BBSUXO$Y6FH[F$_TO1.png的计算公式就变为了:

T[IA6[3PJ)$ZCH}C}[BCNA2.png

ZEC]GO7V~OU~4I{UKLFZUBY.png

  1. 算法


在SIS的基础上加上重采样和上述特定的提议分布就得到了SIR算法,其迭代的流程如下:

~YDEU[4XCU2J~LEFK_NSCUP.png


相关文章
|
机器学习/深度学习
受限玻尔兹曼机|机器学习推导系列(二十五)
受限玻尔兹曼机|机器学习推导系列(二十五)
775 0
受限玻尔兹曼机|机器学习推导系列(二十五)
|
机器学习/深度学习 算法 数据挖掘
100天搞定机器学习|day44 k均值聚类数学推导与python实现
100天搞定机器学习|day44 k均值聚类数学推导与python实现
100天搞定机器学习|day44 k均值聚类数学推导与python实现
|
机器学习/深度学习 人工智能 移动开发
【机器学习】线性分类——高斯判别分析GDA(理论+图解+公式推导)
【机器学习】线性分类——高斯判别分析GDA(理论+图解+公式推导)
368 0
【机器学习】线性分类——高斯判别分析GDA(理论+图解+公式推导)
|
机器学习/深度学习 人工智能 算法
【机器学习】线性分类——线性判别分析LDA(理论+图解+公式推导)
【机器学习】线性分类——线性判别分析LDA(理论+图解+公式推导)
348 0
【机器学习】线性分类——线性判别分析LDA(理论+图解+公式推导)
|
机器学习/深度学习 算法
100天搞定机器学习|day38 反向传播算法推导
100天搞定机器学习|day38 反向传播算法推导
100天搞定机器学习|day38 反向传播算法推导
|
机器学习/深度学习
MCMC-1|机器学习推导系列(十五)
MCMC-1|机器学习推导系列(十五)
362 0
MCMC-1|机器学习推导系列(十五)
|
机器学习/深度学习 算法
变分推断|机器学习推导系列(十四)
变分推断|机器学习推导系列(十四)
213 0
变分推断|机器学习推导系列(十四)
|
机器学习/深度学习 算法
Sigmoid信念网络|机器学习推导系列(二十八)
Sigmoid信念网络|机器学习推导系列(二十八)
276 0
Sigmoid信念网络|机器学习推导系列(二十八)
|
机器学习/深度学习 算法
近似推断|机器学习推导系列(二十七)
近似推断|机器学习推导系列(二十七)
152 0
近似推断|机器学习推导系列(二十七)
|
机器学习/深度学习 算法
配分函数|机器学习推导系列(二十六)
配分函数|机器学习推导系列(二十六)
288 0
配分函数|机器学习推导系列(二十六)
下一篇
无影云桌面