技术心得记录:概率统计13——二项分布与多项分布

简介: 技术心得记录:概率统计13——二项分布与多项分布

原文 |


相关阅读


最大似然估计(概率10)


寻找“最好”(3)函数和泛函的拉格朗日乘数法


伯努利分布


  如果随机试验仅有两个可能的结果,那么这两个结果可以用0和1表示,此时随机变量X将是一个0/1的变量,其分布是单个二值随机变量的分布,称为伯努利分布。注意伯努利分布关注的是结果只有0和1,而不管观测条件是什么。


性质


  设p是随机变量等于1的概率,伯努利分布有一些特殊的性质:


  将上面的两个式子合并:


  伯努利变量是离散型,并且是一个0/1变量,它的数学期望是:


  方差是:


极大似然


  最大似然估计(概率10)


  对于伯努利分布的质量函数来说,p是唯一的参数。如果给定N个独立同分布的样本 {x(1), x(2), ……, x(N)},x(t)是投硬币的结果,是随机变量,x(t)?{0, 1},可以通过极大似然估计,根据样本推测出p的取值:


  取对数似然函数:


  这是个符合直觉的结果,即使没学过概率和极大似然也能得出这个结论。


二项分布


  假设某个试验是伯努利试验,成功概率用p表示,那么失败的概率为1-p。现在进行了N次这样的试验,成功了x次,失败了N-x次,发生这种情况的概率是多少?


质量函数


  对于每次实验来说,成功的概率都是p,失败的概率是1-p。//代码效果参考:http://www.lyjsj.net.cn/wx/art_23615.html

假设已经完成了N次试验,并且前x次都成功了,后N-x次都失败了:

  x次成功的情况当然不止一种,比如成功和失败交叉在一起:


  这种成功和失败的排列顺序共有种不同的情况,因此对于任意N次伯努利试验,成功了x次的概率是:


  的另一种记法是 。


  P(x)就是二项分布的质量函数,是N次伯努利试验中取得x次成功的概率。


性质


  二项分布的均值和方差分别为Np和Np(1-p)。


  从二项分布的质量函数P(x)可知,概率分布只与试验次数N和成功概率p有关,p越接近0.5,二项分布将越对称。保持二项分布试验的次数N不变,随着成功概率p逐渐接近0.5,二项分布逐渐对称,且近似于均值为Np、方差为Np(1-p)的正态分布:


多项分布


  多项分布是二项分布的扩展,其中随机试验的结果不是两种状态,而是K种互斥//代码效果参考:http://www.lyjsj.net.cn/wz/art_23613.html

的离散状态,每种状态出现的概率为pi,p1 + p1 + … + pK = 1,在这个前提下共进行了N次试验,用x1~xK表示每种状态出现次数,x1 + x2 + …+ xK = N,称X=(x1, x2, …, xK)服从多项分布,记作X~PN(N:p1, p2,…,pn)。

质量函数


  如果说二项分布的典型案例是扔硬币,那么多项分布就是扔骰子。骰子有6个不同的点数,扔一次骰子,每个点数出现的概率(对应p1~p6)都是1/6。重复扔N次,6点出现x次的概率是:  


  这和二项分布的质量函数类似。现在将问题扩展一下,扔N次骰子,1~6出现次数分别是x1~x6时的概率是多少?


  仍然和二项式类似,假设前x1次都是1点,之后的x2次都是2点……最后x6次都是6点:


  1~6出现次数分别是x1~x6的情况不止一种,1点出现x1次的情况有种;在1点出现x1次的前提下,2点出现x2次的情况有种;在1点出现x1次且2点出现x2次的前提下,3点出现x3的情况有种……扔N次骰子,1~6出现次数分别是x1~x6时的概率是:


  根据①:


  最终,扔骰子的概率质量函数是:


  把这个结论推广到多项分布:某随机实验如果有K种可能的结果C1~CK,它们出现的概率是p1~pK。在N随机试验的结果中,分别将C1~CK的出现次数记为随机变量X1~XK,那么C1出现x1次、C2出现x2次……CK出现xK次这种事件发生的概率是:


  其中x1 + x2 + …+ xK = N,p1 + p2 + …+ pK = 1。


极大似然


  多项式的极大似然是指在随机变量X1=x1, X2=x2, ……, XK=xK时,最可能的p1~pK。


//代码效果参考: http://www.lyjsj.net.cn/wx/art_23611.html

  对数极大似然:


  现在问题变成了求约束条件下的极值:


  根据拉格朗日乘子法:


  寻找“最好”(3)函数和泛函的拉格朗日乘数法


  根据约束条件:


  这也是个符合直觉的结论。面对有N个样本的K分类数据集,当pi = xi/N 时,Ci类最可能出现xi次。为了这个结论我们却大费周章,也许又有人因此而嘲笑概率简单了……


随笔

相关文章
交流电路理论:峰值、平均值和RMS值的计算公式
除了频率和周期之外,AC 波形的一个关键属性是振幅,它表示交变波形的最大值,或者更广为人知的是峰值。
11958 1
交流电路理论:峰值、平均值和RMS值的计算公式
|
编译器 Linux C语言
c语言结构体知识系统详解
c语言结构体知识系统详解
175 0
|
11月前
|
存储 负载均衡 Java
如何配置Windows主机MPIO多路径访问存储系统
Windows主机多路径(MPIO)是一种技术,用于在客户端计算机上配置多个路径到存储设备,以提高数据访问的可靠性和性能。本文以Windows2012 R2版本为例介绍如何在客户端主机和存储系统配置多路径访问。
615 13
如何配置Windows主机MPIO多路径访问存储系统
素颜简约的个人导航网站源码
素颜简约的个人导航网站源码
1040 0
素颜简约的个人导航网站源码
|
消息中间件 存储 NoSQL
【2021年遇到最头疼的Bug】【Alibaba中间件技术系列】「RocketMQ技术专题」Broker配置介绍及发送流程、异常(XX Busy)问题分析总结
【2021年遇到最头疼的Bug】【Alibaba中间件技术系列】「RocketMQ技术专题」Broker配置介绍及发送流程、异常(XX Busy)问题分析总结
1007 113
【2021年遇到最头疼的Bug】【Alibaba中间件技术系列】「RocketMQ技术专题」Broker配置介绍及发送流程、异常(XX Busy)问题分析总结
|
Serverless 定位技术
Google Earth Engine谷歌地球引擎提取多波段长期反射率数据后绘制折线图并导出为Excel
Google Earth Engine谷歌地球引擎提取多波段长期反射率数据后绘制折线图并导出为Excel
273 1
|
C语言
C语言----递归--n的k次方
C语言----递归--n的k次方
96 0
|
域名解析 缓存 网络协议
关于错误ERR_NAME_NOT_RESOLVED
如果以上方法都未能解决问题,你可能需要联系你的网络管理员或互联网服务提供商以获取更多帮助,或者考虑尝试在不同的网络环境中访问网站。
4952 0
|
Cloud Native 物联网 编译器
gRPC(三)基础:gRPC快速入门
Protobuf 是 Google 的序列化/反序列化协议,可以轻松定义服务和自动生成客户端库。gRPC 使用此协议作为其接口定义语言 (IDL) 和序列化工具集。
563 0
gRPC(三)基础:gRPC快速入门