07 pandas DataFrame - 相关系数与协方差、去重、计数、成员资格

简介: === 相关系数与协方差 ===相关系数(Correlation coeffieient):是研究变量之间线性相关程度的量,一般用字母 r 表示。协方差(Convariance,COV):反应了两个样本之间的相互关系和关联程度。

=== 相关系数与协方差 ===

相关系数(Correlation coeffieient):
是研究变量之间线性相关程度的量,一般用字母 r 表示。

协方差(Convariance,COV):
反应了两个样本之间的相互关系和关联程度。

img_537264a3c1d4653ad080995749830b5f.png
协方差COV

有一组年龄和身高的数据

import pandas as pd
import numpy as np
data = pd.DataFrame({
        "年龄":[8,9,10,11,12],
        "身高":[130,135,140,141,150]
    })

1、协方差

研究年龄和身高成一个什么样的关系

data['年龄'].cov(data['身高'])

11.5

如果返回的是正数,代表两组数据“同向”发展,数值越大,“同向”程度越高
这组数据的返回值是11.5,代表年龄的身高之间还是有点关系的

如果身高的数据改成 "身高":[150,145,140,131,130] 越长越矮
则返回 -11.5,代表两组数据“反向”发展,数值越大,“反向”程度越高

2、 相关系数 - 判断两组数据是否相似

取值为[-1,1] 越接近1,代表相似程度越高

data['年龄'].corr(data['身高'])

0.9745412767961823

如果将身高其中一项改成145,使得数据完全相似
"身高":[130,135,140,145,150]
即年龄每长1岁,身高必长5厘米
则返回值为1,表示完全相似

=== 去重 ===

stu_info = pd.read_excel('student_info1.xlsx',sheetname='countif').head(5)
stu_info
img_64b8731681a8b83fa9376ad46f5de2a2.png

数据去重 unique
unique只能针对Series进行去重

print(type(stu_info))
print(type(stu_info['语文']))
print(type(stu_info['语文'].unique()))

stu_info['语文'].unique()
<class 'pandas.core.frame.DataFrame'>
<class 'pandas.core.series.Series'>
<class 'numpy.ndarray'>
array([58, 93, 86, 96, 52], dtype=int64)

=== 计数 ===

每个成绩出现的次数 value_counts
value_counts只能用于Series

stu_info['语文'].value_counts()
86    1
93    1
52    1
58    1
96    1
Name: 语文, dtype: int64

=== 成员资格 ===

判断DataFrame的Series中是否存在某个值
语文成绩中是否有93或96

stu_info['语文'].isin([93,96])
0    False
1     True
2    False
3     True
4    False
Name: 语文, dtype: bool
相关文章
|
10月前
|
Java 数据处理 索引
(Pandas)Python做数据处理必选框架之一!(二):附带案例分析;刨析DataFrame结构和其属性;学会访问具体元素;判断元素是否存在;元素求和、求标准值、方差、去重、删除、排序...
DataFrame结构 每一列都属于Series类型,不同列之间数据类型可以不一样,但同一列的值类型必须一致。 DataFrame拥有一个总的 idx记录列,该列记录了每一行的索引 在DataFrame中,若列之间的元素个数不匹配,且使用Series填充时,在DataFrame里空值会显示为NaN;当列之间元素个数不匹配,并且不使用Series填充,会报错。在指定了index 属性显示情况下,会按照index的位置进行排序,默认是 [0,1,2,3,...] 从0索引开始正序排序行。
719 0
|
10月前
|
Java 数据挖掘 数据处理
(Pandas)Python做数据处理必选框架之一!(一):介绍Pandas中的两个数据结构;刨析Series:如何访问数据;数据去重、取众数、总和、标准差、方差、平均值等;判断缺失值、获取索引...
Pandas 是一个开源的数据分析和数据处理库,它是基于 Python 编程语言的。 Pandas 提供了易于使用的数据结构和数据分析工具,特别适用于处理结构化数据,如表格型数据(类似于Excel表格)。 Pandas 是数据科学和分析领域中常用的工具之一,它使得用户能够轻松地从各种数据源中导入数据,并对数据进行高效的操作和分析。 Pandas 主要引入了两种新的数据结构:Series 和 DataFrame。
774 0
|
SQL 索引 Python
Pandas中DataFrame合并的几种方法
Pandas中DataFrame合并的几种方法
2664 1
|
存储 数据挖掘 数据处理
掌握Pandas核心数据结构:Series与DataFrame的四种创建方式
本文介绍了 Pandas 库中核心数据结构 Series 和 DataFrame 的四种创建方法,包括从列表、字典、标量和 NumPy 数组创建 Series,以及从字典、列表的列表、NumPy 数组和 Series 字典创建 DataFrame,通过示例详细说明了每种创建方式的具体应用。
1387 67
|
SQL 数据采集 数据可视化
Pandas 数据结构 - DataFrame
10月更文挑战第26天
1107 2
Pandas 数据结构 - DataFrame
|
存储 数据挖掘 索引
Pandas数据结构:Series与DataFrame
本文介绍了 Python 的 Pandas 库中两种主要数据结构 `Series` 和 ``DataFrame`,从基础概念入手,详细讲解了它们的创建、常见问题及解决方案,包括数据缺失处理、数据类型转换、重复数据删除、数据筛选、排序、聚合和合并等操作。同时,还提供了常见报错及解决方法,帮助读者更好地理解和使用 Pandas 进行数据分析。
1206 11
|
存储 数据挖掘 索引
Pandas Series 和 DataFrame 常用属性详解及实例
Pandas 是 Python 数据分析的重要工具,其核心数据结构 Series 和 DataFrame 广泛应用。本文详细介绍了这两种结构的常用属性,如 `index`、`values`、`dtype` 等,并通过具体示例帮助读者更好地理解和使用这些属性,提升数据分析效率。
1079 4
|
索引 Python
Pandas学习笔记之Dataframe
Pandas学习笔记之Dataframe
2552 2
|
数据挖掘 大数据 数据处理
数据分析师的秘密武器:精通Pandas DataFrame合并与连接技巧
【8月更文挑战第22天】在数据分析中,Pandas库的DataFrame提供高效的数据合并与连接功能。本文通过实例展示如何按员工ID合并基本信息与薪资信息,并介绍如何基于多列(如员工ID与部门ID)进行更复杂的连接操作。通过调整`merge`函数的`how`参数(如&#39;inner&#39;、&#39;outer&#39;等),可实现不同类型的连接。此外,还介绍了使用`join`方法根据索引快速连接数据,这对于处理大数据集尤其有用。掌握这些技巧能显著提升数据分析的能力。
540 1
|
SQL 数据采集 JSON
Pandas 使用教程 Series、DataFrame
Pandas 使用教程 Series、DataFrame
450 0

热门文章

最新文章