掌握Pandas中的相关性分析:corr()方法详解

简介: 掌握Pandas中的相关性分析:corr()方法详解

在数据分析的世界里,理解变量之间的关系至关重要。Pandas库中的corr()方法为我们提供了一种便捷的方式来计算数据集中变量之间的相关系数。本文将深入探讨corr()方法的使用,帮助你更好地掌握数据分析的这一重要技能。

一、什么是相关性分析

在统计学中,相关性分析用于衡量两个变量之间的相关程度。最常用的相关系数是皮尔逊相关系数,它衡量两个变量之间的线性相关性,取值范围在-1到1之间。值接近1表示强正相关,接近-1表示强负相关,而接近0则表示没有线性相关。

二、如何使用corr()方法?

corr()方法是Pandas库中DataFrame对象的一个重要方法,用于计算并返回一个DataFrame中所有列(或行)之间的相关系数矩阵。这个方法默认计算皮尔逊相关系数,但也可以通过参数指定计算其他类型的相关系数,如肯德尔(Kendall)或斯皮尔曼(Spearman)相关系数。


df.corr(method='pearson', min_periods=1)

  • method (可选): 字符串类型,用于指定计算相关系数的方法。默认是 'pearson',还可以选择 'kendall'(Kendall Tau 相关系数)或 'spearman'(Spearman 秩相关系数);
  • min_periods (可选): 表示计算相关系数时所需的最小观测值数量。默认值是 1,即只要有至少一个非空值,就会进行计算。如果指定了 min_periods,并且在某些列中的非空值数量小于该值,则相应列的相关系数将被设为 NaN。

df.corr()方法返回一个相关系数矩阵,矩阵的行和列对应数据框的列名,矩阵的元素是对应列之间的相关系数。

常见的相关性系数包括 Pearson 相关系数和 Spearman 秩相关系数

  • Pearson相关系数: 即皮尔逊相关系数,用于衡量了两个变量之间的线性关系强度和方向。它的取值范围在-1到1之间,其中-1表示完全负相关,1表示完全正相关,0表示无线性相关。可以使用corr()方法计算数据框中各列之间的 Pearson相关系数。
  • Spearman相关系数:即斯皮尔曼相关系数,是一种秩相关系数。用于衡量两个变量之间的单调关系,即不一定是线性关系。它通过比较变量的秩次来计算相关性。可以使用corr(method='spearman') 方法计算数据框中各列之间的Spearman相关系数。


下面我们通过一个python的简单实例来具体看看如何使用corr()方法。

import pandas as pd # 示例数据 data = { 'A': [1, 2, 3, 4, 5],      'B': [5, 4, 3, 2, 1],      'C': [2, 3, 4, 5, 6]      } # 创建DataFrame df = pd.DataFrame(data) # 计算相关系数矩阵 correlation_matrix = df.corr() # 打印相关系数矩阵 print(correlation_matrix)

运行结果为:

de298a55e2410e220b545a16091eae2a.png

这里,稍微解释一下,为什么是3*3的矩阵,corr()做相关性是对A、B、C的3行数据进行的整体相关性分析,A行和B行,因为A行是从1到5递增的顺序,B行是从5到1的递减顺序,所以A和B的相关系数为-1;以此推理即可看到这个结果。

相关系数矩阵是一个对称矩阵,对角线上的值总是1,因为任何变量与自身的相关系数都是1。矩阵中的每个值表示对应列之间变量的相关系数。

三、corr()方法的参数

corr()方法有几个参数可以调整:

  • method: 可以指定计算相关系数的方法,包括'pearson'(默认)、'kendall'或'spearman'。
  • min_periods: 在计算相关系数之前,每个变量需要的最小观测值数量。
  • numeric_only: 如果为True,则只计算数值列的相关系数。

四、注意事项

  • 相关系数矩阵只能揭示变量间的线性关系,不能说明因果关系。
  • 在进行相关性分析之前,确保数据是干净的,没有异常值或错误。
  • 相关性分析是探索性数据分析的一部分,通常用于初步了解数据集中变量间的关系。

五、结语

通过Pandas的corr()方法,我们可以快速有效地进行相关性分析,为深入的数据探索和分析奠定基础。掌握这一技能,将使你在数据分析的道路上更加得心应手。

相关文章
|
11天前
|
弹性计算 人工智能 架构师
阿里云携手Altair共拓云上工业仿真新机遇
2024年9月12日,「2024 Altair 技术大会杭州站」成功召开,阿里云弹性计算产品运营与生态负责人何川,与Altair中国技术总监赵阳在会上联合发布了最新的“云上CAE一体机”。
阿里云携手Altair共拓云上工业仿真新机遇
|
7天前
|
机器学习/深度学习 算法 大数据
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
2024“华为杯”数学建模竞赛,对ABCDEF每个题进行详细的分析,涵盖风电场功率优化、WLAN网络吞吐量、磁性元件损耗建模、地理环境问题、高速公路应急车道启用和X射线脉冲星建模等多领域问题,解析了问题类型、专业和技能的需要。
2514 17
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
|
7天前
|
机器学习/深度学习 算法 数据可视化
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码
2024年中国研究生数学建模竞赛C题聚焦磁性元件磁芯损耗建模。题目背景介绍了电能变换技术的发展与应用,强调磁性元件在功率变换器中的重要性。磁芯损耗受多种因素影响,现有模型难以精确预测。题目要求通过数据分析建立高精度磁芯损耗模型。具体任务包括励磁波形分类、修正斯坦麦茨方程、分析影响因素、构建预测模型及优化设计条件。涉及数据预处理、特征提取、机器学习及优化算法等技术。适合电气、材料、计算机等多个专业学生参与。
1520 14
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码
|
3天前
|
存储 关系型数据库 分布式数据库
GraphRAG:基于PolarDB+通义千问+LangChain的知识图谱+大模型最佳实践
本文介绍了如何使用PolarDB、通义千问和LangChain搭建GraphRAG系统,结合知识图谱和向量检索提升问答质量。通过实例展示了单独使用向量检索和图检索的局限性,并通过图+向量联合搜索增强了问答准确性。PolarDB支持AGE图引擎和pgvector插件,实现图数据和向量数据的统一存储与检索,提升了RAG系统的性能和效果。
|
9天前
|
编解码 JSON 自然语言处理
通义千问重磅开源Qwen2.5,性能超越Llama
击败Meta,阿里Qwen2.5再登全球开源大模型王座
552 14
|
1月前
|
运维 Cloud Native Devops
一线实战:运维人少,我们从 0 到 1 实践 DevOps 和云原生
上海经证科技有限公司为有效推进软件项目管理和开发工作,选择了阿里云云效作为 DevOps 解决方案。通过云效,实现了从 0 开始,到现在近百个微服务、数百条流水线与应用交付的全面覆盖,有效支撑了敏捷开发流程。
19282 30
|
9天前
|
人工智能 自动驾驶 机器人
吴泳铭:AI最大的想象力不在手机屏幕,而是改变物理世界
过去22个月,AI发展速度超过任何历史时期,但我们依然还处于AGI变革的早期。生成式AI最大的想象力,绝不是在手机屏幕上做一两个新的超级app,而是接管数字世界,改变物理世界。
473 48
吴泳铭:AI最大的想象力不在手机屏幕,而是改变物理世界
|
1月前
|
人工智能 自然语言处理 搜索推荐
阿里云Elasticsearch AI搜索实践
本文介绍了阿里云 Elasticsearch 在AI 搜索方面的技术实践与探索。
18838 20
|
1月前
|
Rust Apache 对象存储
Apache Paimon V0.9最新进展
Apache Paimon V0.9 版本即将发布,此版本带来了多项新特性并解决了关键挑战。Paimon自2022年从Flink社区诞生以来迅速成长,已成为Apache顶级项目,并广泛应用于阿里集团内外的多家企业。
17528 13
Apache Paimon V0.9最新进展
|
2天前
|
云安全 存储 运维
叮咚!您有一份六大必做安全操作清单,请查收
云安全态势管理(CSPM)开启免费试用
362 4
叮咚!您有一份六大必做安全操作清单,请查收