小数据| 描述性统计(Python/R 实现)

简介: 小数据| 描述性统计(Python/R 实现)

本文首发于“生信补给站”公众号 小数据| 描述性统计(Python/R 实现)

描述性统计

   描述性统计是借助图表或者总结性的数值来描述数据的统计手段。数据挖掘工作的数据分析阶段,可以借助描述性统计来描述或总结数据的基本情况。

理论部分

一 数据的集中趋势描述:

   数据的集中趋势描述是寻找反映事物特征的数据集合的代表值或中心值, 这个代表值或中心值可以很好地反映事物目前所处的位置和发展水平, 通过对事物集中趋势指标的多次测量和比较, 还能够说明事物的发展和变化趋势。


1.1算术平均值

   简单算术平均值是最典型、 最常用、 最具代表性的集中趋势指标。将数据集合的所有数据值相加的和除以数据值个数就得到简单算术平均值。假设有一组包含n个数值的数据集合, 它们的数值分别为x1 , x2 ,…, xn , 该数据集合的简单算术平均值的计算公式为:

   注意当数据集合中有极大值或极小值存在时, 会对算术平均值产生很大的影响, 其计算结果会掩盖数据集合的真实特征, 这时算术平均值就失去了代表性。人均收入?拖没拖后腿


1.2 众数

   数据集合中出现次数最多的数值被称为众数。如果在一个数据集合中, 只有一个数值出现的次数最多, 那么这个数值就是该数据集合的众数;如果有两个或多个数值的出现次数并列最多, 那么这两个或多个数值都是该数据集合的众数。


1.3 中位数

对于数据集合(x1, x2, …, xn) , 将所有的数值按照它们的大小, 从高到低或从低到高进行排序, 如果数据集合包含的数值个数是基数, 那么排在最中间的数值就是该数据集合的中位数;如果数据集合的数值个数是偶数, 那么取最中间两个数值的算术平均值作为中位数。


二 数据的离散程度

   集中趋势指标在表示数据集合的特征时会有不同的缺陷, 例如算术平均数会受到极端值的影响, 不能完全展现数据集合的特征, 离散程度指标可以在一定程度上弥补集中趋势指标的这个缺陷, 展示出数据集合的离散情况。

   在同类离散指标的比较中, 离散指标的数值越小, 说明数据集合的波动(变异) 程度越小;离散指标的数值越大, 说明数据集合的波动(变异) 程度越大。


2.1 极差

   极差是指数据集合中最大值与最小值的差值, 表示整个数据集合能够覆盖的数值距离。现有数据集合(xmin, x2, …,xmax) , 计算公式为:

image.png


2.2 方差和标准差

1)总体的方差和标准差

   如果数据集合(x1, x2, …, xn) 就是数据总体, 并且数据集合有N个数值(个案) , 假设数据总体的均值为μ,那么

   总体方差σ2的计算公式为:

image.png

   总体标准差是方差的正值平方根, 其计算公式为:


2)样本的方差和标准差

   从数据总体中随机抽取一定数量的样本数值, 然后用样本数值的方差和标准差来估计总体的方差和标准差。为了区分, 样本的均值用x-表示, 样本方差用s2表示, 样本标准差用s表示。假设样本容量为n, 那么样本方差的计算公式为:


2.3 变异系数

   变异系数实质上是标准差相对于算术平均值的大小 .

总体的变异系数计算公式为:

样本的变异系数计算公式为 :

   因此, 如果比较算术平均值不同的两个数据集合的相对离散程度时, 使用变异系数要比使用标准差更具有说服力。此外, 变异系数是无单位指标, 这是它与其他离散程度指标最大的区别。


2.4 四分位极差

   排在四分之一位置的数值即为第一四分位数Q1;排在四分之二位置的数值为第二四分位数Q2 , 也就是中位数;排在四分之三位置的数值为第三四分位数Q3。这三个四分位数将整个数据集合分成四等分。四分位极差等于第一四分位数与第三四分位数的差值(Q3-Q1) , 这个差值区间包含了整个数据集合50%的数据值。


实现部分

介绍完了基本概念,下面使用Python 和 R 分别实现上述计算过程:


Python实现


from numpy import mean,median,ptp,var,std
import numpy as np
import pandas as pd
#算术平均值
data = [1,2,3,4,5,5,5,6,7,8,8,9]
data_mean = mean(data)
print("算术平均数 = ")
print(data_mean)
#中位数
data_median = median(data)
print("中位数 = ")
print (data_median)
#众数
data_mode = mode(data)
print("众数 = ")
print (data_mode)
#极差
data_range = max(data)-min(data)
print("极差 = ")
print (data_range)
#方差和标准差
data_var = var (data)
print ("方差 = ")
print (data_var)
#标准差
data_sd = std(data)
print ("标准差 = " )
print (data_sd)
#变异系数
data_cv = mean(data) / std(data)
print ("变异系数 = " )
print (data_cv)
#四分卫极差
dt = pd.Series(np.array([1,2,3,4,5,5,5,6,7,8,8,9]))
print('Q1:', dt.quantile(.25))
print('Q3:', dt.quantile(.75))
print('Q3 - Q1 :', dt.quantile(.75) - dt.quantile(.25) )

R实现



#整理成描述性统计的函数
my_describe <- function(x){
  options(digits = 3)
  N = length(x);
  Min = min(x, na.rm = TRUE);
  Q1 = quantile(x, probs = 0.25, na.rm = TRUE);
  Median = median(x, na.rm = TRUE);
  Q3 = quantile(x, probs = 0.75, na.rm = TRUE);
  Max = max(x, na.rm = TRUE);
  Mean = mean(x, na.rm = TRUE);
  Var = var(x, na.rm = TRUE);
  Sd = sd(x, na.rm = TRUE);
  Range = abs(diff(range(x)));
  #返回结果
  return(data.frame(N = N, Min = Min, Q1 = Q1, Median = Median, Q3 = Q3, Max = Max, Mean = Mean, Var = Var, Sd = Sd, Range = Range))
}
#可对data数据集批量使用
sapply(data, my_describe)


参考资料:

人人都会数据分析

数据分析|R-描述性统计

相关文章
|
2月前
|
数据采集 数据可视化 数据挖掘
利用Python自动化处理Excel数据:从基础到进阶####
本文旨在为读者提供一个全面的指南,通过Python编程语言实现Excel数据的自动化处理。无论你是初学者还是有经验的开发者,本文都将帮助你掌握Pandas和openpyxl这两个强大的库,从而提升数据处理的效率和准确性。我们将从环境设置开始,逐步深入到数据读取、清洗、分析和可视化等各个环节,最终实现一个实际的自动化项目案例。 ####
305 10
|
6天前
|
数据采集 数据安全/隐私保护 Python
从零开始:用Python爬取网站的汽车品牌和价格数据
在现代化办公室中,工程师小李和产品经理小张讨论如何获取懂车帝网站的汽车品牌和价格数据。小李提出使用Python编写爬虫,并通过亿牛云爬虫代理避免被封禁。代码实现包括设置代理、请求头、解析网页内容、多线程爬取等步骤,确保高效且稳定地抓取数据。小张表示理解并准备按照指导操作。
从零开始:用Python爬取网站的汽车品牌和价格数据
|
1天前
|
算法 Serverless 数据处理
从集思录可转债数据探秘:Python与C++实现的移动平均算法应用
本文探讨了如何利用移动平均算法分析集思录提供的可转债数据,帮助投资者把握价格趋势。通过Python和C++两种编程语言实现简单移动平均(SMA),展示了数据处理的具体方法。Python代码借助`pandas`库轻松计算5日SMA,而C++代码则通过高效的数据处理展示了SMA的计算过程。集思录平台提供了详尽且及时的可转债数据,助力投资者结合算法与社区讨论,做出更明智的投资决策。掌握这些工具和技术,有助于在复杂多变的金融市场中挖掘更多价值。
22 12
|
1月前
|
数据采集 Web App开发 数据可视化
Python用代理IP获取抖音电商达人主播数据
在当今数字化时代,电商直播成为重要的销售模式,抖音电商汇聚了众多达人主播。了解这些主播的数据对于品牌和商家至关重要。然而,直接从平台获取数据并非易事。本文介绍如何使用Python和代理IP高效抓取抖音电商达人主播的关键数据,包括主播昵称、ID、直播间链接、观看人数、点赞数和商品列表等。通过环境准备、代码实战及数据处理与可视化,最终实现定时任务自动化抓取,为企业决策提供有力支持。
|
2月前
|
数据采集 Web App开发 监控
Python爬虫:爱奇艺榜单数据的实时监控
Python爬虫:爱奇艺榜单数据的实时监控
|
2月前
|
数据采集 分布式计算 大数据
构建高效的数据管道:使用Python进行ETL任务
在数据驱动的世界中,高效地处理和移动数据是至关重要的。本文将引导你通过一个实际的Python ETL(提取、转换、加载)项目,从概念到实现。我们将探索如何设计一个灵活且可扩展的数据管道,确保数据的准确性和完整性。无论你是数据工程师、分析师还是任何对数据处理感兴趣的人,这篇文章都将成为你工具箱中的宝贵资源。
|
2月前
|
数据采集 存储 XML
python实战——使用代理IP批量获取手机类电商数据
本文介绍了如何使用代理IP批量获取华为荣耀Magic7 Pro手机在电商网站的商品数据,包括名称、价格、销量和用户评价等。通过Python实现自动化采集,并存储到本地文件中。使用青果网络的代理IP服务,可以提高数据采集的安全性和效率,确保数据的多样性和准确性。文中详细描述了准备工作、API鉴权、代理授权及获取接口的过程,并提供了代码示例,帮助读者快速上手。手机数据来源为京东(item.jd.com),代理IP资源来自青果网络(qg.net)。
|
3月前
|
传感器 物联网 开发者
使用Python读取串行设备的温度数据
本文介绍了如何使用Python通过串行接口(如UART、RS-232或RS-485)读取温度传感器的数据。详细步骤包括硬件连接、安装`pyserial`库、配置串行端口、发送请求及解析响应等。适合嵌入式系统和物联网应用开发者参考。
92 3
|
3月前
|
数据采集 JavaScript 程序员
探索CSDN博客数据:使用Python爬虫技术
本文介绍了如何利用Python的requests和pyquery库爬取CSDN博客数据,包括环境准备、代码解析及注意事项,适合初学者学习。
154 0
|
3月前
|
数据采集 存储 分布式计算
超酷炫Python技术:交通数据的多维度分析
超酷炫Python技术:交通数据的多维度分析

热门文章

最新文章

推荐镜像

更多