Pandas之五数据操作

简介: pandas进行数据分析的常用功能:系统函数统计、自定义函数统计、数值计数、字符串函数。

Pandas之五数据操作

前面我们聊过了对象创建、数据查看、数据选择的相关操作,现在就要进入到数据分析阶段了。使用pandas主要原因就是其提供的数据分析功能,能实现大部分的数据统计分析工作。对数据进行操作主要有四种类型:

  1. 数据统计:常用的就是计数、平均值、最大值、最小值、标准差、分位数等等
  2. 函数应用:依次对dataframe每行执行某个函数
  3. 数值计数:统计每个值出现的次数,在制作直方图时可能会用到
  4. 字符串函数:pandas支持字符串,自然地支持对字符串进行各种操作

下面我们以图中的数据来演示上述各项功能。

1. 数据统计

使用pandas经常会要用到数据统计功能,常用的有计数count、平均值mean、最大值max、最小值min、标准差std、分位数quantile等,其使用方法基本一致,此处以均值和标准差为例进行演示。

注:默认情况在统计时会忽略缺失值np.nan

1.1 平均值(mean)

计算平均值时可以按行计算或者按列计算,通过设置方法参数axis控制。

  1. 按列计算(默认情况下就是按列计算)

  1. 按行计算

1.2 标准差(std)

和计算平均值时一样,可以按行计算或者按列计算,通过设置方法参数axis控制。

  1. 按列计算(默认情况下按列计算)

  1. 按行计算

2. 函数应用

可以对dataframe应用某个函数,也可以对指定的行或列应用,以累计和函数np.cumsum为例。

2.1 全局应用

对整个df按列逐行计算累加和值,axis默认为0

在这里插入图片描述

2.2 对某行应用

从df中截取某行,设置axis=1计算各列的累加和值,

2.3 对某列应用

从df中截取某列,计算各行的累加和值

3. 数值计数

有时需要统计某些值出现的次数来绘制直方图,可以使用value_count实现。value_counts有点类似于sql中的group by ... count。默认情况下做统计会忽略np.nan值,可以使用dropna=False统计np.nan值。

3.1 对所有列统计

下图表示每行数据都不相同,只出现1次。

3.2 对某列做统计

同时统计E列中的数字和缺失值。

4. 字符串函数

pandas为series提供了针对字符串的操作方法.str,其包括诸如大小写转换lower,upper、字符串替换replace等各种常用的字符串操作函数。以replace为例:

目录
相关文章
|
1月前
|
Python
使用 Pandas 库时,如何处理数据的重复值?
在使用Pandas处理数据重复值时,需要根据具体的数据特点和分析需求,选择合适的方法来确保数据的准确性和唯一性。
160 8
|
1天前
|
编解码 数据挖掘 开发者
Pandas数据导出:CSV文件
Pandas是Python中强大的数据分析库,提供了灵活的数据结构如DataFrame和Series。通过`to_csv()`函数可轻松将数据保存为CSV文件。本文介绍了基本用法、常见问题(如编码、索引、分隔符等)及解决方案,并涵盖大文件处理和报错解决方法,帮助用户高效导出数据。
108 83
|
8天前
|
存储 数据挖掘 数据处理
Pandas 数据筛选:条件过滤
Pandas 是 Python 最常用的数据分析库之一,提供了强大的数据结构和工具。本文从基础到高级,介绍如何使用 Pandas 进行条件过滤,包括单一条件、多个条件过滤、常见问题及解决方案,以及动态和复杂条件过滤的高级用法。希望本文能帮助你更好地利用 Pandas 处理数据。
117 78
|
5天前
|
数据挖掘 数据处理 数据库
Pandas数据聚合:groupby与agg
Pandas库中的`groupby`和`agg`方法是数据分析中不可或缺的工具,用于数据分组与聚合计算。本文从基础概念、常见问题及解决方案等方面详细介绍这两个方法的使用技巧,涵盖单列聚合、多列聚合及自定义聚合函数等内容,并通过代码案例进行说明,帮助读者高效处理数据。
65 32
|
3天前
|
数据挖掘 数据处理 索引
Pandas数据重命名:列名与索引为标题
Pandas 是强大的数据分析工具,支持灵活的数据结构和操作。本文介绍如何使用 Pandas 对 `DataFrame` 的列名和索引进行重命名,包括直接赋值法、`rename()` 方法及索引修改。通过代码示例展示了具体操作,并讨论了常见问题如名称冲突、数据类型不匹配及 `inplace` 参数的使用。掌握这些技巧可使数据更清晰易懂,便于后续分析。
41 29
|
4天前
|
SQL 数据采集 数据挖掘
Pandas数据合并:concat与merge
Pandas是Python中强大的数据分析库,提供灵活高效的数据结构和工具。本文详细介绍了Pandas中的两种主要合并方法——`concat`和`merge`。`concat`用于沿特定轴连接多个Pandas对象,适用于简单拼接场景;`merge`则类似于SQL的JOIN操作,根据键合并DataFrame,支持多种复杂关联。文章还探讨了常见问题及解决方案,如索引对齐、列名冲突和数据类型不一致等,帮助读者全面掌握这两种方法,提高数据分析效率。
23 8
|
10天前
|
数据挖掘 索引 Python
Pandas数据读取:CSV文件
Pandas 是 Python 中强大的数据分析库,`read_csv` 函数用于从 CSV 文件中读取数据。本文介绍 `read_csv` 的基本用法、常见问题及其解决方案,并通过代码案例详细说明。涵盖导入库、读取文件、指定列名和分隔符、处理文件路径错误、编码问题、大文件读取、数据类型问题、日期时间解析、空值处理、跳过行、指定索引列等。高级用法包括自定义列名映射、处理多行标题和注释行。希望本文能帮助你更高效地使用 Pandas 进行数据读取和处理。
57 13
|
7天前
|
算法 数据挖掘 索引
Pandas数据排序:单列与多列排序详解
本文介绍了Pandas库中单列和多列排序的方法及常见问题的解决方案。单列排序使用`sort_values()`方法,支持升序和降序排列,并解决了忽略大小写、处理缺失值和索引混乱等问题。多列排序同样使用`sort_values()`,可指定不同列的不同排序方向,解决列名错误和性能优化等问题。掌握这些技巧能提高数据分析效率。
38 9
|
1月前
|
Python
|
1月前
|
Python