学界 | 为什么数据科学家都钟情于最常见的正态分布?-阿里云开发者社区

开发者社区> 大数据文摘> 正文
登录阅读全文

学界 | 为什么数据科学家都钟情于最常见的正态分布?

简介:

对于深度学习和机器学习工程师们来说,正态分布是世界上所有概率模型中最重要的一个。即使你没有参与过任何人工智能项目,也一定遇到过高斯模型,今天就让我们来看看高斯过程为什么这么受欢迎。

高斯分布(Gaussian distribution),也称正态分布,最早由A.棣莫弗在求二项分布的渐近公式中得到。C.F.高斯在研究测量误差时从另一个角度导出了它。P.S.拉普拉斯和高斯研究了它的性质。是一个在数学、物理及工程等领域都非常重要的概率分布,在统计学的许多方面有着重大的影响力。

正态曲线呈钟型,两头低,中间高,左右对称因其曲线呈钟形,因此人们又经常称之为钟形曲线。

0ae5c5803185cc4e5f1b2e7118652019e5be73f7

若随机变量X服从一个数学期望为μ、方差为σ^2的正态分布,记为N(μ,σ^2)。其概率密度函数为正态分布的期望值μ决定了其位置,其标准差σ决定了分布的幅度。当μ = 0,σ = 1时的正态分布是标准正态分布。

5abc9dd1094bd35d0bb5e3ece7565190a6b73831

高斯概率分布的数学表达式

在自然现象中随处可见

所有模型都是错的,但有些是有用的

—George Box

211d0fdea3dfee45135b3eff3bc5a58e37819474

正在扩散的粒子的位置可以用正态分布来描述

正态分布有极其广泛的实际背景,生产与科学实验中很多随机变量的概率分布都可以近似地用正态分布来描述。例如,在生产条件不变的情况下,产品的强力、抗压强度、口径、长度等指标;同一种生物体的身长、体重等指标;同一种种子的重量;测量同一物体的误差;弹着点沿某一方向的偏差;某个地区的年降水量;以及理想气体分子的速度分量,等等。

一般来说,如果一个量是由许多微小的独立随机因素影响的结果,那么就可以认为这个量具有正态分布。从理论上看,正态分布具有很多良好的性质,许多概率分布可以用它来近似;还有一些常用的概率分布是由它直接导出的,例如对数正态分布、t分布、F分布等。

数学原因:中心极限定理

5e7ff2dbd1e5ac993333e8b6888200c52b7470be

二维空间上进行200万步的随机游走之后得到的图案

中心极限定理的内容为:大量独立随机变量的和经过适当标准化之后趋近于正态分布,与这些变量原本的分布无关。比如,随机游走的总距离就趋近于正态分布。下面我们介绍三种形式的中心极限定理:

独立同分布的中心极限定理

设随机变量X1,X2,......Xn,......独立同分布,并且具有有限的数学期望和方差:E(Xi)=μ,D(Xi)=σ^2 (i=1,2....),则对任意x,分布函数为

f3a7099ac12f882de4174aa361b852997c134294

满足

5eea9bfc78247e99d757eb6f16002a9c7366bc65

该定理说明,当n很大时,随机变量

cfe1e2afe952c4f542dbefbb3522f642d7c39174

近似地服从标准正态分布N(0,1)。因此,当n很大时,0fcf16c0458166125a3b127de3f9701180f6ab82

近似地服从正态分布N(nμ,nσ^2).该定理是中心极限定理最简单又最常用的一种形式,在实际工作中,只要n足够大,便可以把独立同分布的随机变量之和当作正态变量。这种方法在数理统计中用得很普遍,当处理大样本时,它是重要工具。

棣莫佛-拉普拉斯定理

设随机变量X(n=1,2,...,)服从参数为n,p(0<p<1)的二项分布,则对于任意有限区间(a,b)有

eda0d46f4c3a110dcb87a7956c16aabc14278f83

该定理表明,正态分布是二项分布的极限分布,当数充分大时,我们可以利用上式来计算二项分布的概率。

不同分布的中心极限定理

设随机变量X1,X2,......Xn,......独立同分布,它们的概率密度分别为fxk(x),并有E(Xk)=μk,D(Xk)= σk^2,(k=1,2......)

2e6a0aba5b3571d2ce318c5cffe92da48d98a7d2

若对任意正数τ,有:

f0183c990f18f67a27378514eb7d10faa83c9629

对任意x,随机变量Yn的分布函数Fn(x),满足:

b5a8bc921c74176a8ef04399bb71e25d3f3cb912

该定理说明:所研究的随机变量如果是有大量独立的而且均匀的随机变量相加而成,那么它的分布将近似于正态分布。

万变不离其宗

与其他很多分布不同,正态分布进行适当的变换之后,仍是正态分布。

  • 两个正态分布之积仍是正态分布

  • 两个独立的服从正态分布的随机变量之和服从正态分布

  • 对一个正态分布进行高斯卷积还是正态分布

  • 正态分布经过傅立叶变换之后仍是正态分布

简洁

820d15b87dde85d0d09e3f69dcc90463bc689a41

奥卡姆剃刀强调一个哲学原则:在其他条件都相同下,最简单的解就是最好的解。

对于任何一个用正态分布拟合的随机分布,都可能存在一个多参数,更复杂,更准确的解法。但是我们仍然会倾向于选用正态分布,因为它在数学上很简洁。

  • 它的均值(mean)、中值(median)和众数(mode)都相同

  • 只需要用两个参数就可以确定整个分布

图形特性:

  • 集中性:正态曲线的高峰位于正中央,即均数所在的位置。

  • 对称性:正态曲线以均数为中心,左右对称,曲线两端永远不与横轴相交。

  • 均匀变动性:正态曲线由均数所在处开始,分别向左右两侧逐渐均匀下降。

  • 曲线与横轴间的面积总等于1,相当于概率密度函数的函数从正无穷到负无穷积分的概率为1。即频率的总和为100%。


原文发布时间为:2018-06-18
本文作者:文摘菌
本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“大数据文摘”。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
大数据文摘
使用钉钉扫一扫加入圈子
+ 订阅

官方博客
官网链接