假设检验多重比较的P值修正

简介: 在进行假设检验时,我们通常会使用P值来判断样本数据是否支持原假设。当我们进行多重比较时,也就是对多个假设进行检验时,如果不进行P值修正,就会出现多重比较问题。多重比较问题指的是在进行多次假设检验时,由于进行多次检验,就会增加发生假阳性的概率,从而导致P值的误判。这种误判可能会导致我们错误地拒绝原假设或者错误地接受备择假设,从而影响数据分析的准确性和可靠性。为了避免多重比较问题,进行P值修正可以有效地避免多重比较问题的发生。

1、关于多重比较的P值修正

当对于一组数据进行多重均值比较的时候,例如两两比较(A,B,C)三组数据,将执行3次比较(A-B,A-C,B-C),假设每次比较时犯错的概率假设控制在5%,每次比较的可信度即为95%。但是对于三个同时进行的 test 来说,由于其中每个test的检验犯错是概率5%,那么总体上三个test均正确反映事实的可信度将低于95%(0.953 = 0.85),也即是犯 I类错误** (错误识别为出现显著差异) 的概率从5%提高到了15%。所以在进行多重检验时需要进行P值的修正来控制错误率, 主要有两种控制方案:

方案一 :控制FWER(family-wise error rate)

该类修正方法严格 要求多重比较的每个 test 全部正确,FWER的常见修正方法包括 Bonferroni ,Holm,Scheffe,Tukey。使用校正后的P值的显著性判断水平还是α = 0.05 。

Bonferroni校正,该方法它将显著性水平 α 除以总比较次数n 来生成更低的 α阈值 作为显著性判断水平($\alpha' = \frac {\alpha}{n}= \frac {\alpha}{C_{num\_groups}^2}$)。该方法对于组数比较敏感,适用于比较组数较少的情况(3组,4组,6组),当比较组数过多时(>8组)可能发生因为 α 过小而失效的问题,即使两组间存在差异也无法正确识别,从而放大了 II类错误

如果是对一组数据任意两两组都进行检验,检验功效比较好的是 Tukey 方法,这也是一种相对严格的一种方法,比较不容易得显著的结果。

方案二 :控制FDR(false discovery rate)::控制错误率

该类修正方法要求 在判断显著的这些比较结果里面一定比例的检验结果是可靠的 ,也就是不严格要求所有结果均正确,允许犯错。适用于比较组数较大的情况,如单细胞研究里基因间的两两比较,这种情况下如果使用FWER校正方法可能会出现所有结果都不显著,从而导致比较失去意义。

最常用方法是: Benjamini & Hochberg(BH)


Reference

【统计学博士教你用R语言做统计分析!】方差分析(ANOVA)_哔哩哔哩_bilibili
BH方法过程

目录
相关文章
|
6月前
|
自然语言处理 算法 C++
在C++语言中非修正算法
在C++语言中非修正算法
42 1
|
6月前
R语言ECM误差修正模型、均衡修正模型、受限VECM、协整检验、单位根检验即期利率市场数据
R语言ECM误差修正模型、均衡修正模型、受限VECM、协整检验、单位根检验即期利率市场数据
|
12天前
|
机器学习/深度学习 存储 人工智能
梯度累积的隐藏陷阱:Transformer库中梯度累积机制的缺陷与修正
在本地微调大规模语言模型时,由于GPU显存限制,通常采用梯度累积技术来模拟大批次训练。然而,实际研究表明,梯度累积方法在主流深度学习框架中会导致模型性能显著下降,尤其是在多GPU环境中。本文详细探讨了梯度累积的基本原理、应用场景及存在的问题,并通过实验验证了修正方案的有效性。研究指出,该问题可能在过去多年中一直存在且未被发现,影响了模型的训练效果。
38 4
梯度累积的隐藏陷阱:Transformer库中梯度累积机制的缺陷与修正
|
1天前
|
机器学习/深度学习 Serverless 定位技术
深入理解多重共线性:基本原理、影响、检验与修正策略
本文将深入探讨多重共线性的本质,阐述其重要性,并提供有效处理多重共线性的方法,同时避免数据科学家常犯的陷阱。
11 3
|
6月前
|
机器学习/深度学习 前端开发 数据可视化
R语言缺失数据变量选择LASSO回归:Bootstrap重(再)抽样插补和推算
R语言缺失数据变量选择LASSO回归:Bootstrap重(再)抽样插补和推算
|
6月前
多重比较示例:Bonferroni校正法和Benjamini & Hochberg法
多重比较示例:Bonferroni校正法和Benjamini & Hochberg法
|
6月前
|
机器学习/深度学习
R语言调整随机对照试验中的基线协变量
R语言调整随机对照试验中的基线协变量
|
6月前
|
数据可视化
R平方/相关性取决于预测变量的方差
R平方/相关性取决于预测变量的方差
|
6月前
R语言多重比较示例:Bonferroni校正法和Benjamini & Hochberg法
R语言多重比较示例:Bonferroni校正法和Benjamini & Hochberg法
|
6月前
|
Windows
R语言有状态依赖强度的非线性、多变量跳跃扩散过程模型似然推断分析股票价格波动
R语言有状态依赖强度的非线性、多变量跳跃扩散过程模型似然推断分析股票价格波动