数据分析之可重复与独立样本的T-Test分析

简介: 数据分析之可重复与独立样本的T-Test分析

数据分析之独立样本的T-Test分析

比较两个独立样本数据之间是否有显著性差异,将实验数据与标准数据对比,查看

实验结果是否符合预期。T-Test在生物数据分析,实验数据效果验证中很常见的数

据处理方法。http://www.statisticslectures.com/tables/ttable/ - T-table查找表

独立样本T-test条件:

1.      每个样本相互独立没有影响

2.      样本大致符合正态分布曲线

3.      具有同方差异性

单侧检验(one-tail Test)与双侧检验(Two-Tail Test)

基本步骤:

1.双侧检验, 条件声明  alpha值设置为0.05

根据t-table, alpha = 0.05, df = 38时, 对于t-table的值为2.0244

2. 计算自由度(Degree of Freedom)

Df = (样本1的总数 + 样本2的总数)- 2

3. 声明决策规则

如果计算出来的结果t-value的结果大于2.0244或者小于-2.0244则拒绝

4. 计算T-test统计值


5. 得出结论

如果计算结果在双侧区间之内,说明两组样本之间没有显著差异。

可重复样本的T-Test计算

同样一组数据在不同的条件下得到结果进行比对,发现是否有显著性差异,最常见

的对一个人在饮酒与不饮酒条件下驾驶车辆测试,很容易得出酒精对驾驶员有显著

影响 

算法实现:

对独立样本的T-Test计算最重要的是计算各自的方差与自由度df1与df2


对可重复样本的对比t-test计算


程序实现:

 

package com.gloomyfish.data.mining.analysis;
 
public class TTestAnalysisAlg {
 
  private double alpahValue = 0.05; // default
  private boolean dependency = false; // default
 
  public TTestAnalysisAlg() {
    System.out.println("t-test algorithm");
  }
 
  public double getAlpahValue() {
    return alpahValue;
  }
 
  public void setAlpahValue(double alpahValue) {
    this.alpahValue = alpahValue;
  }
 
  public boolean isDependency() {
    return dependency;
  }
 
  public void setDependency(boolean dependency) {
    this.dependency = dependency;
  }
 
  public double analysis(double[] data1, double[] data2) {
    double tValue = 0;
    if (dependency) {
      // Repeated Measures T-test.
      // Uses the same sample of subjects measured on two different
      // occasions
      double diffSum = 0.0;
      double diffMean = 0.0;
      int size = Math.min(data1.length, data2.length);
      double[] diff = new double[size];
      for(int i=0; i<size; i++)
      {
        diff[i] = data2[i] -data1[i];
        diffSum += data2[i] -data1[i];
      }
      diffMean = diffSum / size;
      diffSum = 0.0;
      for(int i=0; i<size; i++)
      {
        diffSum += Math.pow((diff[i] -diffMean), 2);
      }
      double diffSD = Math.sqrt(diffSum / (size - 1.0));
      double diffSE = diffSD / Math.sqrt(size);
      tValue = diffMean / diffSE;
 
    } else {
 
      double means1 = 0;
      double means2 = 0;
      double sum1 = 0;
      double sum2 = 0;
 
      // calcuate means
      for (int i = 0; i < data1.length; i++) {
        sum1 += data1[i];
      }
 
      for (int i = 0; i < data2.length; i++) {
        sum2 += data2[i];
      }
 
      means1 = sum1 / data1.length;
      means2 = sum2 / data2.length;
 
      // calculate SD (Standard Deviation)
      sum1 = 0.0;
      sum2 = 0.0;
 
      for (int i = 0; i < data1.length; i++) {
        sum1 += Math.pow((means1 - data1[i]), 2);
      }
 
      for (int i = 0; i < data2.length; i++) {
        sum2 += Math.pow((means2 - data2[i]), 2);
      }
 
      double sd1 = Math.sqrt(sum1 / (data1.length - 1.0));
      double sd2 = Math.sqrt(sum2 / (data2.length - 1.0));
 
      // calculate SE (Standard Error)
      double se1 = sd1 / Math.sqrt(data1.length);
      double se2 = sd2 / Math.sqrt(data2.length);
      System.out.println("Data Sample one - > Means :" + means1
          + " SD : " + sd1 + " SE : " + se1);
      System.out.println("Data Sample two - > Means :" + means2
          + " SD : " + sd2 + " SE : " + se2);
 
      // degree of freedom
      double df1 = data1.length - 1;
      double df2 = data2.length - 1;
 
      // Calculate the estimated standard error of the difference
      double spooled2 = (sd1 * sd1 * df1 + sd2 * sd2 * df2) / (df1 + df2);
      double Sm12 = Math.sqrt((spooled2 / df1 + spooled2 / df2));
      tValue = (means1 - means2) / Sm12;
    }
 
    System.out.println("t-test value : " + tValue);
    return tValue;
 
  }
 
  public static void main(String[] args) {
    int size = 10;
    System.out.println(Math.sqrt(size));
  }
 
}

测试程序:

package com.gloomyfish.dataming.study;
 
import com.gloomyfish.data.mining.analysis.TTestAnalysisAlg;
 
public class TTestDemo {
  
  public static double[] data1 = new double[]{
    35, 40, 12, 15, 21, 14, 46, 10, 28, 48, 16, 30, 32, 48, 31, 22, 12, 39, 19, 25
  };
  public static double[] data2 = new double[]{
    2, 27, 38, 31, 1, 19, 1, 34, 3, 1, 2, 3, 2, 1, 2, 1, 3, 29, 37, 2
  };
  public static void main(String[] args)
  {
    TTestAnalysisAlg tTest = new TTestAnalysisAlg();
    tTest.analysis(data1, data2);
    tTest.setDependency(true);
    double[] d1 = new double[]{2, 0, 4, 2, 3};
    double[] d2 = new double[]{8, 4, 11, 5, 8};
    
    //  The critical value for a one-tailed t-test with
    //  df=4 and α=.05 is 2.132
    double t = tTest.analysis(d1, d2);
    if(t > 2.132 || t < -2.132)
    {
      System.err.println("Very Bad!!!!");
    }
  }
 
}


相关文章
|
6月前
|
数据可视化 数据挖掘
R语言生存分析数据分析可视化案例(下)
R语言生存分析数据分析可视化案例
|
3月前
|
数据采集 存储 数据挖掘
【优秀python数据分析案例】基于Python书旗网小说网站数据采集与分析的设计与实现
本文介绍了一个基于Python的书旗网小说网站数据采集与分析系统,通过自动化爬虫收集小说数据,利用Pandas进行数据处理,并通过Matplotlib和Seaborn等库进行数据可视化,旨在揭示用户喜好和市场趋势,为图书出版行业提供决策支持。
312 6
【优秀python数据分析案例】基于Python书旗网小说网站数据采集与分析的设计与实现
|
1月前
|
数据挖掘 UED
ChatGPT数据分析——探索性分析
ChatGPT数据分析——探索性分析
|
1月前
|
数据可视化 数据挖掘 数据处理
ChatGPT数据分析应用——热力图分析
ChatGPT数据分析应用——热力图分析
|
1月前
|
数据挖掘
ChatGPT在常用的数据分析方法中的应用(分组分析)
ChatGPT在常用的数据分析方法中的应用(分组分析)
|
1月前
|
机器学习/深度学习 数据采集 数据可视化
如何理解数据分析及数据的预处理,分析建模,可视化
如何理解数据分析及数据的预处理,分析建模,可视化
49 0
|
1月前
|
数据挖掘
ChatGPT在常用的数据分析方法中的应用(对比分析)
ChatGPT在常用的数据分析方法中的应用(对比分析)
|
2月前
|
机器学习/深度学习 人工智能 数据挖掘
数据分析师是在多个行业中专门从事数据搜集、整理和分析的专业人员
数据分析师是在多个行业中专门从事数据搜集、整理和分析的专业人员
38 3
|
3月前
|
前端开发 Java JSON
Struts 2携手AngularJS与React:探索企业级后端与现代前端框架的完美融合之道
【8月更文挑战第31天】随着Web应用复杂性的提升,前端技术日新月异。AngularJS和React作为主流前端框架,凭借强大的数据绑定和组件化能力,显著提升了开发动态及交互式Web应用的效率。同时,Struts 2 以其出色的性能和丰富的功能,成为众多Java开发者构建企业级应用的首选后端框架。本文探讨了如何将 Struts 2 与 AngularJS 和 React 整合,以充分发挥前后端各自优势,构建更强大、灵活的 Web 应用。
58 0