《计算机视觉:模型、学习和推理》一2.7 期望

简介: 本节书摘来华章计算机《计算机视觉:模型、学习和推理》一书中的第2章 ,第2.7节, [英]西蒙J. D. 普林斯(Simon J. D. Prince)著苗启广 刘凯 孔韦韦 许鹏飞 译 译更多章节内容可以访问云栖社区“华章计算机”公众号查看。

2.7 期望

给定一个函数f[]和每个x所对应的概率Pr(x=x),函数对变量x的每个值x都返回一个值,有时希望求函数的期望输出。如果从概率分布中抽取大量样本,计算每个样本的函数,并求这些值的平均值,其结果就是期望。更确切地说,在离散及连续的情况下,一个随机变量x的函数f[]的期望值分别定义为
2017_09_19_112548
将这种思路推广到二元随机变量的函数f[],则有:
2017_09_19_112641
对于某些特殊的函数f[],期望被赋予特殊的名称(见表2-1)。这些特殊函数常用来概括复杂概率分布的性质。
表2-1 特殊函数的期望。对于某些函数f(x),其期望E[f(x)]被赋予特殊的名称。在这里,使用符号μx表示随机变量x的均值,μy表示随机变量y的均值
2017_09_19_112758
期望有四条性质,这些性质能够通过期望的原始定义简单证得(式(2-12))。
1.若随机变量x是常数k,则其期望是常数本身:
2017_09_19_113013
2.常数k与函数f[x]的乘积所得函数的期望是f[x]期望的k倍:
2017_09_19_113108
3.随机变量都是x时:函数f[x]和g[x]相加所得函数的期望是两个函数期望的和.
2017_09_19_113203
4.函数f[x]和g[y]相乘所得函数的期望是两个函数期望的乘积:
2017_09_19_113305

讨论
概率的规则是非常紧凑和简洁的。边缘化、联合条件概率、独立性和贝叶斯公式是本书中所有计算机视觉算法的基础。仅剩概率相关的一个重要概念——条件的独立性,这将在第10章详细讨论。
备注
关于概率更正式的讨论,鼓励读者研读一本关于该主题的书籍,例如,Papoulis(1991)。若从机器学习的视角学习概率,请参考Bishop(2006)第1章。
习题
2.1 列举出真实生活中联合分布的一个实例Pr(x,y),其中x是离散的,y是连续的。
2.2 边缘化5个变量的联合分布Pr(v,w,x,y,z),仅仅考虑变量w和y,结果将会是什么?对于v的边缘化分布结果又是什么?
2.3 证明下面等式成立:
2017_09_19_113347
2.4 在我的口袋里有两枚硬币。第一枚硬币是公平的,所以正面向上的似然性Pr(h=1c=1)是0.5,反面向上的似然性Pr(h=0c=1)也是0.5。第二枚硬币是不公平的,正面向上的似然性Pr(h=1c=2)是0.8,而反面向上的似然性Pr(h=1c=2)是0.2。将手伸入口袋,随机选取一枚硬币。选取任何一枚硬币的先验概率是相同的。投掷所选硬币观察到正面朝上,利用贝叶斯公式计算选取第二枚硬币的后验概率。
2.5 如果变量x和y是相互独立的,变量x和z是相互独立的,那么变量y和z是相互独立的吗?
2.6 使用式(2-3)证明,当x和y相互独立时,边缘概率分布Pr(x)与任意y的条件概率Pr(xy=y)等价。
2.7 4个变量的联合概率Pr(w,x,y,z)因式分解为:
2017_09_19_113440
证明若Pr(x,w)=Pr(x)Pr(w),x和w是相互独立的。
2.8 考虑骰子6个面{1,2,3,4,5,6}朝上的概率分别为{1/12,1/12,1/12,1/12,1/6,1/12}。骰子的期望值是多少?如果投掷两次骰子,两次投掷的期望值总共是多少?
2.9 证明期望的四个公式
2017_09_19_113517
对于最后一种情况,需要使用独立性的定义进行证明(见2.6节)。
2.10 利用习题2.9中的关系式证明以下关系式,即趋近于零的二阶矩和关于均值的二阶矩(方差)之间的关系:
2017_09_19_113735

相关文章
|
3月前
|
机器学习/深度学习 存储 数据库
Python3 OpenCV4 计算机视觉学习手册:6~11(5)
Python3 OpenCV4 计算机视觉学习手册:6~11(5)
55 0
|
2月前
|
机器学习/深度学习 算法 数据可视化
计算机视觉+深度学习+机器学习+opencv+目标检测跟踪+一站式学习(代码+视频+PPT)-2
计算机视觉+深度学习+机器学习+opencv+目标检测跟踪+一站式学习(代码+视频+PPT)
98 0
|
2月前
|
机器学习/深度学习 Ubuntu Linux
计算机视觉+深度学习+机器学习+opencv+目标检测跟踪+一站式学习(代码+视频+PPT)-1
计算机视觉+深度学习+机器学习+opencv+目标检测跟踪+一站式学习(代码+视频+PPT)
55 1
|
3月前
|
机器学习/深度学习 算法 数据挖掘
Python3 OpenCV4 计算机视觉学习手册:6~11(2)
Python3 OpenCV4 计算机视觉学习手册:6~11(2)
75 0
|
1月前
|
机器学习/深度学习 人工智能 计算机视觉
生成式计算机视觉(CV)模型的发展历程及最新进展
在计算机视觉(CV)领域,生成式AI技术的发展经历了多个阶段。在深度学习革命之前,传统的图像生成技术主要依赖于手工制作的特征,如纹理合成和纹理映射等方法。然而,这些方法在生成复杂和生动的图像方面的能力是有限的。
95 2
|
3月前
|
机器学习/深度学习 数据可视化 算法
Python3 OpenCV4 计算机视觉学习手册:6~11(4)
Python3 OpenCV4 计算机视觉学习手册:6~11(4)
85 0
|
3月前
|
传感器 算法 vr&ar
Python3 OpenCV4 计算机视觉学习手册:6~11(3)
Python3 OpenCV4 计算机视觉学习手册:6~11(3)
89 0
|
3月前
|
算法 数据可视化 数据库
Python3 OpenCV4 计算机视觉学习手册:6~11(1)
Python3 OpenCV4 计算机视觉学习手册:6~11(1)
44 0
|
3月前
|
机器学习/深度学习 计算机视觉
AIGC核心技术——计算机视觉(CV)预训练大模型
【1月更文挑战第13天】AIGC核心技术——计算机视觉(CV)预训练大模型
377 3
AIGC核心技术——计算机视觉(CV)预训练大模型
|
4月前
|
机器学习/深度学习 PyTorch 算法框架/工具
Azure 机器学习 - 使用 ONNX 对来自 AutoML 的计算机视觉模型进行预测
Azure 机器学习 - 使用 ONNX 对来自 AutoML 的计算机视觉模型进行预测
67 0

热门文章

最新文章