Pandas数据筛选的5种技巧

简介: Pandas数据筛选的5种技巧

Pandas是一个强大的Python数据分析工具库,它提供了多种方法来筛选和过滤数据。以下是一些常用的筛选数据的方法

1. 布尔索引:

使用布尔索引是最基础的数据筛选方法。你可以通过比较数据帧(DataFrame)中的每一行或每一列的值与一个特定值,来创建一个布尔型数组,然后使用这个布尔型数组来索引数据帧。使用布尔值来筛选数据。例如,df[df['column_name'] > value] 会返回 column_name 列中大于 value 的所有行的数据。

2. 条件筛选:

除了基础的布尔索引,Pandas还提供了query()方法,让你可以像写SQL一样,用字符串形式来表达复杂的筛选条件。结合 df.query() 方法和使用 pandas.Series 的 loc 或 iloc 方法进行条件筛选。

3. loc和iloc方法:

loc 方法可以基于标签进行行和列的选择,而 iloc 方法可以基于位置进行选择。

4. 布尔数组与mask:

可以使用布尔数组创建一个掩码(mask),然后对数据进行筛选。

5. groupby.filter方法:

使用groupby.filter方法结合lambda函数进行复杂的筛选操作。filter 的函数func经常和匿名函数lambda配合使用,用来筛选groupby之后的数据,它类似 SQL中groupby后的 having 操作。

注意:pandas中的filter函数是不能使用lambda来进行筛选的,你要是直接使用df.filter的话会报错呦:

7a42bddaa6ce96f17b0ab3fb812aeef6.png


下面是一个简单的例子,展示了如何使用这些方法,假设有以下一个简单的DataFrame:


import pandas as pd
# 创建示例DataFramedf = pd.DataFrame({    'Age': [25, 30, 35, 40],    'Salary': [40000, 50000, 60000, 70000]})df

b53c43f99729d8695f43fd9cd0ab916a.png


# 方法1:使用布尔索引进行筛选filtered_df = df[(df['Age'] > 30)]filtered_df


# 方法2:条件筛选:df1=df.query('Age > 30')df1


# 方法3: loc 和 iloc df2 = df.loc[df.index[df['Age'] > 30], ['Age', 'Salary']] df2


# 方法4: 布尔数组与 mask boolean_array = df['Age'] > 30df3= df[boolean_array] df3


# 方法5: filter 方法 df4=df.groupby('Age').filter(lambda x:x['Age']>30)df4

以上5种方法筛选的同一个结果为:

e59d5555d51757b78bbfd69135ed7438.png


以上就是一些常用的Pandas数据筛选的5种方法。希望这些技巧能够帮助你更高效地进行数据分析工作。

相关文章
|
11天前
|
弹性计算 人工智能 架构师
阿里云携手Altair共拓云上工业仿真新机遇
2024年9月12日,「2024 Altair 技术大会杭州站」成功召开,阿里云弹性计算产品运营与生态负责人何川,与Altair中国技术总监赵阳在会上联合发布了最新的“云上CAE一体机”。
阿里云携手Altair共拓云上工业仿真新机遇
|
7天前
|
机器学习/深度学习 算法 大数据
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
2024“华为杯”数学建模竞赛,对ABCDEF每个题进行详细的分析,涵盖风电场功率优化、WLAN网络吞吐量、磁性元件损耗建模、地理环境问题、高速公路应急车道启用和X射线脉冲星建模等多领域问题,解析了问题类型、专业和技能的需要。
2513 16
【BetterBench博士】2024 “华为杯”第二十一届中国研究生数学建模竞赛 选题分析
|
7天前
|
机器学习/深度学习 算法 数据可视化
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码
2024年中国研究生数学建模竞赛C题聚焦磁性元件磁芯损耗建模。题目背景介绍了电能变换技术的发展与应用,强调磁性元件在功率变换器中的重要性。磁芯损耗受多种因素影响,现有模型难以精确预测。题目要求通过数据分析建立高精度磁芯损耗模型。具体任务包括励磁波形分类、修正斯坦麦茨方程、分析影响因素、构建预测模型及优化设计条件。涉及数据预处理、特征提取、机器学习及优化算法等技术。适合电气、材料、计算机等多个专业学生参与。
1520 14
【BetterBench博士】2024年中国研究生数学建模竞赛 C题:数据驱动下磁性元件的磁芯损耗建模 问题分析、数学模型、python 代码
|
3天前
|
存储 关系型数据库 分布式数据库
GraphRAG:基于PolarDB+通义千问+LangChain的知识图谱+大模型最佳实践
本文介绍了如何使用PolarDB、通义千问和LangChain搭建GraphRAG系统,结合知识图谱和向量检索提升问答质量。通过实例展示了单独使用向量检索和图检索的局限性,并通过图+向量联合搜索增强了问答准确性。PolarDB支持AGE图引擎和pgvector插件,实现图数据和向量数据的统一存储与检索,提升了RAG系统的性能和效果。
|
9天前
|
编解码 JSON 自然语言处理
通义千问重磅开源Qwen2.5,性能超越Llama
击败Meta,阿里Qwen2.5再登全球开源大模型王座
550 14
|
1月前
|
运维 Cloud Native Devops
一线实战:运维人少,我们从 0 到 1 实践 DevOps 和云原生
上海经证科技有限公司为有效推进软件项目管理和开发工作,选择了阿里云云效作为 DevOps 解决方案。通过云效,实现了从 0 开始,到现在近百个微服务、数百条流水线与应用交付的全面覆盖,有效支撑了敏捷开发流程。
19282 30
|
9天前
|
人工智能 自动驾驶 机器人
吴泳铭:AI最大的想象力不在手机屏幕,而是改变物理世界
过去22个月,AI发展速度超过任何历史时期,但我们依然还处于AGI变革的早期。生成式AI最大的想象力,绝不是在手机屏幕上做一两个新的超级app,而是接管数字世界,改变物理世界。
465 48
吴泳铭:AI最大的想象力不在手机屏幕,而是改变物理世界
|
1月前
|
人工智能 自然语言处理 搜索推荐
阿里云Elasticsearch AI搜索实践
本文介绍了阿里云 Elasticsearch 在AI 搜索方面的技术实践与探索。
18838 20
|
1月前
|
Rust Apache 对象存储
Apache Paimon V0.9最新进展
Apache Paimon V0.9 版本即将发布,此版本带来了多项新特性并解决了关键挑战。Paimon自2022年从Flink社区诞生以来迅速成长,已成为Apache顶级项目,并广泛应用于阿里集团内外的多家企业。
17528 13
Apache Paimon V0.9最新进展
|
2天前
|
云安全 存储 运维
叮咚!您有一份六大必做安全操作清单,请查收
云安全态势管理(CSPM)开启免费试用
361 4
叮咚!您有一份六大必做安全操作清单,请查收