开发者社区> 胖胖雕> 正文
阿里云
为了无法计算的价值
打开APP
阿里云APP内打开

应用统计学与R语言实现学习笔记(六)——假设检验

简介: 版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/ESA_DSQ/article/details/71420125 Chapter 6 Hypothesis Test 本篇是第6章,内容是假设检验。
+关注继续查看
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/ESA_DSQ/article/details/71420125

Chapter 6 Hypothesis Test

本篇是第6章,内容是假设检验。

1.基本思想

我们还是从问题开始讨论。这回提个接地气的问题——雄安新区批复前后对该地区房价是否有差异?
嗯,假设检验其实就是为了解决这类问题。
假设检验的基本思想——我们有样本,但是无法获得总体,需要对总体的分布形式或分布参数事先作出某种假设,然后根据样本观测值,运用统计分析的方法来检验这一假设是否正确。
分解开来,假设检验=假设+检验(或者假设检验)。
假设(hypothesis)——对总体的参数的具体数值(或分布形式)所作的陈述(总体参数包括总体均值、比例、 方差等,分析之前必需陈述)。
假设检验(hypothesis test)—先对总体的参数( 或分布形式) 提出某种假设,然后利用样本信息判断假设是否成立的过程(有参数检验和非参数检验;逻辑上运用反证法, 统计上依据小概率原理)。如图。

这里写图片描述

假设检验的思想还可以去搜索Fisher 显著性检验的思想(女士品茶试验)的故事深深体会,这里就不详述了。有兴趣的同学可以点击下文的科学网链接查看。

http://blog.sciencenet.cn/blog-624263-795715.html

2.原假设和备择假设

从前面的介绍我们知道,假设检验的第一步是建立假设。那么假设分为两种(原假设和备择假设)。那么这二者具体又是什么呢?

  • 原假设(null hypothesis)——原假设又称“ 0假设”,总是有符号 =, ≥ 或≤,表示为 H0。是研究者想收集证据予以反对的假设(生产实践中常对应正常情形,如均值与设计一致);一般来说,原假设是一旦拒绝便要采取行动的假设。因此, 原假设总是“受到保护的假设” ,没有充分的证据是不能拒绝原假设的。例如,对一家信誉很好的工厂的产品进行检验,原假设一般是“ 产品合格”。
  • 备择假设(alternative hypothesis)——研究者想收集证据予以支持的假设, 一旦发生就要采取行动, 是与原假设对立的假设,也称“研究假设”,总是有符号 ≠, > 或 <,表示为 H1

总结起来就是,原假设是统计学史上最悲催角色——它从一开始诞生,就是为了被科学家们发好人卡拒绝而存在的一个假设。备择假设才是科学家们追求的白富美。
搞明白了这两个假设,下一步我们做假设检验的时候,就要先提出假设了,这里给了一些提出假设的要点:

  • 原假设和备择假设是一个完备事件组, 而且相互对立(在一项假设检验中, 原假设和备择假设必有一个成立, 而且只有一个成立)。
  • 先确定备择假设, 再确定原假设。
  • 等号“ =” 总是放在原假设上。
  • 因研究目的不同, 对同一问题可能提出不同的假设( 也可能得出不同的结论)。

同时在实际应用中,我们有不同的需求,因此又有双侧检验和单侧检验的区分。

  • 双侧检验——备择假设没有特定的方向性,并含有符号“=”的假设检验,称为双侧检验或双尾检验(two-tailed test)
  • 单侧检验——备择假设具有特定的方向性,并含有符号“>”或“<”的假设检验,称为单侧检验或单尾检验(one-tailed test)。其中备择假设的方向为“<”,称为左侧检验,备择假设的方向为“>”,称为右侧检验。

原假设与备择假设形式:

  • 双边检验:H0:μ=2H1:μ2
  • 单边检验:左侧检验——H0:μ2H1:μ2,右侧检验——H0:μ2H1:μ<2

所见即所得,用一张图来表示假设检验过程。

这里写图片描述

所以拒绝原假设的理由是假设检验中的小概率原理。那么什么是小概率?

  • 在一次试验中, 一个几乎不可能发生的事件发生的概率。
  • 在一次试验中小概率事件一旦发生, 我们就有理由拒绝原假设。
  • 小概率由研究者事先确定。

所以拒绝H0的理由就是

这里写图片描述

这里写图片描述

3.第一类错误和第二类错误

上文介绍了假设检验的过程,但是假设检验过程会不会出现错误呢?其实大家仔细分析拒绝原假设的理由就会发现问题了。通常情况下原假设是小概率事件,但是小概率事件≠0概率事件。小概率事件不是不发生,而是发生概率较小。就像天气预报说明天有99%的可能不下雨,结果1%的可能性成为了事实,明天下雨了。因此假设检验中会有两类错误(弃真错误和取伪错误)经常出现。
(1)第一类错误(弃真错误):

  • 原假设为真时拒绝原假设。
  • 第一类错误的概率为α(没错,就是它,我们的好朋友,小α。咳咳咳,就是显著性水平,一般由研究者事先指定,常用的值有0.01, 0.05, 0.10)。

(2)第二类错误(取伪错误):

  • 原假设为假时未拒绝原假设。
  • 第二类错误的概率记为β。

这里写图片描述

这里写图片描述

α和β的关系——α和β的关系就像翘翘板, α小β就大,α大β就小。所以两类错误不可能同时发生(第一类只在H0为真时发生,第而类只在H0为假时发生)。
影响β的因素:

  • 总体参数的真值。
  • 显著性水平α(当α减少时增大)。
  • 总体标准差σ(当σ增大时增大)。
  • 样本容量n(当n减少时增大)。

4.统计量与拒绝域

讲了这么多,但是还没有介绍假设检验的计算过程。假设检验的过程依赖于两个重要数学概念(统计量与拒绝域,前面已经有稍微提到了)。这里再做具体介绍。
检验统计量(test statistic)——根据样本观测结果计算得到的, 并据以对原假设和备择假设作出决策的某个样本统计量,是对样本估计量的标准化结果(原假设H0为真,点估计量的抽样分布)。
标准化的检验统计量公式为:

=

显著性水平和拒绝域的三种情况:
双侧检验:

这里写图片描述

左侧检验:

这里写图片描述

右侧检验:

这里写图片描述

统计量落在拒绝域时,我们就可以拒绝原假设。具体如下:

  • 给定显著性水平α,查表得出相应的临界值zα,zα/2,tα,tα/2,
  • 将检验统计量的值与α水平的临界值进行比较。
  • 作出决策:双侧检验——|统计量| > 临界值,拒绝H0;左侧检验——统计量 < 临界值,拒绝H0;右侧检验——统计量 > 临界值,拒绝H0

5.利用p值进行决策

如何利用假设检验解决实际问题?很重要的一个应用是在决策上。就如标题说的,利用p值进行决策。那么什么是p值?
p值(p-value):在一个假设检验问题中,拒绝原假设的最小显著性水平。

  • 在原假设为真的条件下,检验统计量的观察值大于或等于其计算值的概率(双侧检验为分布中检验统计量两侧面积的总和;单侧检验为分布中检验统计量相应单侧面积)。
  • 反映实际观测到的数据与原假设H0之间的一致程度。
  • 被称为观察到的(或实测的)显著性水平。
  • 决策规则: 若p值<α, 拒绝H0

p值法步骤(以大样本均值为例)
将样本统计量转换成检验统计量z

  • 计算p值: Z为标准正态分布随机变量(p=(|Z|z)(),p=(Zz)(),p=(Zz)()
  • 比较p值和α:
    如果α≥p值,拒绝H0;
    如果α<p值,不能拒绝H0

假设检验结论的表述
假设检验的目的就在于试图找到拒绝原假设的证据, 而不在于证明什么是正确的。

  • 拒绝原假设时结论是清楚的。
  • 当不拒绝原假设时——并未给出明确的结论,不能说原假设是正确的, 也不能说它不是正确的。但也未说它不是10。 我们只能说样本提供的证据还不足以推翻原假设。

假设检验步骤的总结

  • 陈述原假设和备择假设。
  • 从所研究的总体中抽出一个随机样本。
  • 确定一个适当的检验统计量, 并利用样本数据算出其具体数值。
  • 确定一个适当的显著性水平, 并计算出其临界值, 指定拒绝域。
  • 将统计量的值与临界值进行比较, 作出决策——统计量的值落在拒绝域,拒绝H0,否则不拒绝H0,也可以直接利用p值作出决策。

6.一个总体参数的检验

前面的理论讲的差不多了,又到了典型总体参数的检验内容的介绍了。依旧是先一个总体参数的检验(总体均值、总体比例、总体方差)。
总体均值的检验(大样本: n≥30)
使用z检验统计量:
σ2

z=x¯μ0σ/nN(0,1)

σ2
z=x¯μ0s/nN(0,1)

总体均值的检验(正态总体小样本)
检验统计量:
σ2

z=x¯μ0σ/nN(0,1)

σ2
t=x¯μ0s/nt(n1)

总体比例的检验
假定条件:
  • 总体服从二项分布;
  • 可用正态分布来近似(大样本)。

检验的Z统计量:

z=q¯p0p0(1p0)nN(0,1)p0

总体方差的检验
检验一个总体的方差或标准差,假设总体近似服从正态分布,使用χ2分布。
检验统计量:
χ2=(n1)s2σ20χ2(n1)

这里写图片描述

这里顺带提下作为统计推断的两大分支的区间估计和假设检验的关系。

  • 过程相似:如果假设均值在95%的置信区间之外,双边检验将拒绝原假设(显著性水平为5%)。
  • 逻辑不同:置信区间——不知道均值多少而要估计它;假设检验: 假定一个均值要看数据是否支持这个假设。

另外还是要谈一谈统计学与实际问题——这里谈的是统计显著性和实际显著性。

一个被拒绝的原假设意味着有统计显著性,但未必有实际显著性。这种情况常发生在大样本或精确测量场合,如Kepler的行星运行第一定律:行星轨道是椭圆的,当时吻合程度很好,100年后,仪器更高级、测量更精确,该假设被拒绝,因为行星间交互作用导致摄动。因此不要盲目使用统计显著性。此外,显著性水平α的选择也是个很关键的问题。一般来说:

  • α不宜过小,否则第二类错误概率会较大。
  • α的选择与判断发生错误时要付出的代价大小有关。
  • α的选择是决策问题。

7.两个总体参数的检验

讲完了一个总体参数,照例来讲就两个总体参数(两个总体均值之差,两个总体比例之差,两个总体方差比)。
独立大样本两总体均值之差检验
假定条件:

  • 两个样本是独立的随机样本。
  • 大样本(n130n230)。

检验统计量:

σ21σ22z=(x¯1x¯2)(μ1μ2)σ21n1+σ22n2N(0,1)

σ21σ22z=(x¯1x¯2)(μ1μ2)s21n1+s22n2N(0,1)

正态总体独立小样本均值之差检验(σ21σ22
假定条件:
  • 两个独立的小样本。
  • 两个总体都是正态分布。
  • σ21σ22

检验统计量:

z=(x¯1x¯2)(μ1μ2)σ21n1+σ22n2N(0,1)

正态总体独立小样本均值之差检验(σ21σ22未知但σ21=σ22)
假定条件:
  • 两个独立的小样本。
  • 两个总体都是正态分布。
  • σ21σ22σ21=σ22

检验统计量:

t=(x¯1x¯2)(μ1μ2)sp1n1+1n2sp=(n11)s21+(n21)s22n1+n22n1+n22

两个总体均值之差的检验(σ21σ22未知且不相等σ21σ22)
假定条件:

  • 两个总体都是正态分布。
  • σ21σ22σ21σ22
  • 样本容量相等,n1=n2=n

检验统计量:

t=(x¯1x¯2)(μ1μ2)s21n1+s22n2=(x¯1x¯2)(μ1μ2)s21+s22nn1+n22=2(n1)

两个总体均值之差的检验(σ21σ22未知且不相等σ21σ22)
假定条件:

  • 两个总体都是正态分布。
  • σ21σ22σ21σ22
  • 样本容量不相等,n1n2

检验统计量:

t=(x¯1x¯2)(μ1μ2)s21n1+s22n2vv=(s21n1+s22n2)2(s21/n1)2n11+(s22/n2)2n21

两个总体均值之差的检验(匹配样本)
假定条件:

  • 两个总体配对差值构成的总体服从正态分布。
  • 配对差是由差值总体中随机抽取的。
  • 数据配对或匹配(重复测量 (前/后))。

d¯=ni=1dind,sd=ni=1(did¯)2nd1

大样本检验统计量:
z=d¯d0sd/ndN(0,1)

小样本检验统计量:
t=d¯d0sd/ndt(n1)

两个总体比例之差的检验
假定条件:

  • 两个总体都服从二项分布。
  • 可以用正态分布来近似。

检验统计量:
检验H0p1p2=0

z=p¯1p¯2p¯(1p¯)(1n1+1n2)p¯=x1+x2n1+n2=p¯1n1+p¯2n2n1+n2

检验H0p1p2=d0
z=(p¯1p¯2)d0p¯1(1p¯1)n1+p¯2(1p¯2)n2

两个总体方差比的检验(F检验)
假定条件:

  • 两个总体都服从正态分布。
  • 两个独立的随机样本。

检验统计量:

F=s21s22F(n11,n21)F=s22s21F(n21,n11)

最后的总结就是如下图。

这里写图片描述

最后的最后,回到开头提的问题——雄安新区。该问题其实是两个总体参数的检验问题——两个总体均值之差的问题(两个总体分别是批复前的房价和批复后的房价)。所以如果要讨论该问题,可以考虑从批复前后的房价,抽取配对大样本或小样本(楼盘房价)进行假设检验,这样我们就能在统计学上证明这件事对雄安房价的显著影响啦。本篇涉及的R语言内容较少,还是老规矩,放到后面的第14章去讨论。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

相关文章
应用统计学与R语言实现学习笔记(十四)——案例与实践
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/ESA_DSQ/article/details/78177826 Chapter 14 Case and Practice 本篇是第十四章,内容是案例与实践。
899 0
应用统计学与R语言实现学习笔记(十一)——判别分析
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/ESA_DSQ/article/details/77938432 Chapter 11 Discriminant Analysis 笔者最近任务繁重,断更了一顿时间,最近会开始慢慢把这个系列写完。
903 0
应用统计学与R语言实现学习笔记(八)——方差分析
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/ESA_DSQ/article/details/73014426 Chapter 8 ANOVA 本篇是第八章,内容是方差分析。
1283 0
应用统计学与R语言实现学习笔记(三)——描述性统计
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/ESA_DSQ/article/details/71190387 Chapter 3 Descriptive Statistics 本篇是第三章,内容是描述性统计。
674 0
应用统计学与R语言实现学习笔记(二)——数据收集
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/ESA_DSQ/article/details/71176846 Chapter 2 Data Collection 本篇是第二章,内容是数据收集。
1000 0
应用统计学与R语言实现笔记(番外篇一)——判别分析更正
最近经历了很多事情,一言难尽。终究还是要回来更新博客的。新的一年先把旧的问题解决了再来开始新篇章。在年前有两位小伙伴指出了我在判别分析一章中的一些问题。主要针对这篇做些拓展和讨论。
744 0
应用统计学与R语言实现笔记(番外篇三)——缺失值的相关系数分析
昨天刚好有位同学来咨询R语言里计算相关系数的一些问题,所以来谈谈关于缺失值的相关系数分析问题,主要是在R语言中如何处理含缺失值数据的相关系数分析。
325 0
假设检验基本思想 | 学习笔记
快速学习假设检验基本思想
0 0
行政区统计_功能实现|学习笔记
快速学习行政区统计_功能实现
0 0
+关注
文章
问答
文章排行榜
最热
最新
相关电子书
更多
概率图模型
立即下载
纯干货|机器学习中梯度下降法的分类及对比分析
立即下载
纯干货 | 机器学习中梯度下降法的分类及对比分析
立即下载