3.3分类分布
图3-3 分类分布是有K个可能结果的离散分布,x∈{1,2,…,K}和K个参数λ1,λ2,…,λK满足λK≥0,∑kλK=1。每一个参数代表结果的一个可能值,当可能结果K的数量为2的时候,分类分布就是伯努利分布分类分布(见图3-3)是一个离散分布,它观察k个可能结果的概率。因此,当仅有两种结果时,伯努利分布是一种特殊的分类分布。在计算机视觉中,因为一个像素的亮度数值通常被量化离散数值,所以可以用分类分布对其建模。真实世界的状态也可以取不同的离散值中的一个。比如,车辆的图像可以分成{小汽车,摩托车,面包车,卡车},状态的不确定性可用分类分布描述。
观察K种可能结果的概率存储在K*1的参数向量λ=[λ1,λ2,…,λK]中,其中,λk∈[0,1],∑Kk=1λk=1。分类分布可以被看成一个有K个柱状条的归一化直方图,可写成如下形式:
为了简单,我们用记号法:Pr(x)=Catx[λ](3-7)数据也可以在x={e1,e2,…,eK}中取值,ek是第k个单位向量;除了第k个元素是1之外,ek中所有分量均为0。因此有
其中,xj是x的第j个元素。