一、概述
HMM 模型适用于隐变量是离散的值的时候,对于连续隐变量的 HMM,常用卡尔曼滤波(Kalman Filtering)描述线性高斯模型的态变量,使用粒子滤波(Particle Filter)来表述非高斯非线性的态变量。
线性体现在上一时刻和这一时刻的隐变量以及隐变量和观测变量之间,它们的关系可以表示为:
类比HMM中几个参数,我们也可以写出类似初始概率、转移概率或发射概率的形式:
所有的参数为:
二、Filtering问题
在多个inference问题中,卡尔曼滤波更关心Filtering问题,即求边缘概率:
类似HMM的前向算法,我们需要找到一个递推关系:
上式结果中,已知,而另一项可做以下转化:
因此,我们找到了Filtering问题的递推式:
因此,我们可以确定求解Filtering问题的步骤如下:
很明显这是一个online的过程。
三、Filtering问题求解
通过上述转化我们可以确定Filtering问题的计算是通过以下两步迭代计算进行的:
我们可以确定的是几个高斯分布经过相乘或者积分运算后仍然是高斯分布,所以我们假设:
代入高斯分布的形式可以得到:
接下来的求解需要用到高斯分布|机器学习推导系列(二)第六部分内容中我们得到的结论,即已知和,这里我们直接套用公式即可。
首先,在Prediction过程中:
代入计算的公式可得:
在update过程中: