【Python】【Numpy+Pandas数据处理·闯关】和鲸社区学习笔记day(2)

简介: 【Python】【Numpy+Pandas数据处理·闯关】和鲸社区学习笔记day(2)

1.创建DataFrame


data = {"col1":['Python', 'C', 'Java', 'R', 'SQL', 'PHP', 'Python', 'Java', 'C', 'Python'],
       "col2":[6, 2, 6, 4, 2, 5, 8, 10, 3, 4], 
       "col3":[4, 2, 6, 2, 1, 2, 2, 3, 3, 6]}
df = pd.DataFrame(data)
df

col1
col2 col3
0 Python 6 4
1 C 2 2
2 Java 6 6
3 R 4 2
4 SQL 2 1
5 PHP 5 2
6 Python 8 2
7 Java 10 3
8 C 3 3
9 Python 4 6


2. 设置索引


df['new_index'] = range(1,11)
df.set_index('new_index')



col1
col2 col3
new_index
1 Python 6 4
2 C 2 2
3 Java 6 6
4 R 4 2
5 SQL 2 1
6 PHP 5 2
7 Python 8 2
8 Java 10 3
9 C 3 3
10 Python 4 6


3.更改列名


#方法二:(使用rename()函数:修改指定修改某列或某几列名字)
df.rename(columns={'col1':'grammer', 'col2':'score', 'col3':'cycle','new_index':'id'}, inplace=True)
df.head()

grammer
score cycle id
0 Python 6 4 1
1 C 2 2 2
2 Java 6 6 3
3 R 4 2 4
4 SQL 2 1 5


4.更改全部列顺序


order = df.columns[[0, 3, 1, 2]] # 或者order = ['xx', 'xx',...] 具体列名
df = df[order]
df



score
id grammer cycle
0 6 1 Python 4
1 2 2 C 2
2 6 3 Java 6
3 4 4 R 2
4 2 5 SQL 1
5 5 6 PHP 2
6 8 7 Python 2
7 10 8 Java 3
8 3 9 C 3
9 4 10 Python 6


5.提取第一列位置在1,10,15上的值


# 方法一:
df.iloc[[1,10,15], 0]
# 方法二:
df['createTime'][[1,10,15]]
# 方法三:
df['createTime'].take([1,10,15])

out:

1 2020-03-16 10:58:48

10 2020-03-16 10:34:19

15 2020-03-16 10:52:14

Name: createTime, dtype: datetime64[ns]


6.判断数据框中所有行是否存在重复


df.duplicated()

fdf5aeafa881aef5a1ba03d23c02cd5d_cb1b20f6bec94351b5b2fe17b1d50a85.png


7. 判断education列和salary列数据是否重复(多列组合查询)


df.duplicated(subset = ['education','salary'])

0e9f11b8474b77448c506e8e2cb38160_7ad6f864de7b415dbba3ebd4cef857b0.png


8.提取value列元素值大于60小于70的行


df[(df['value'] > 60) & (df['value'] < 70)]


9.提取salary列包含字符串(‘–’)的行


# 方法一:isin()
df[df['salary'].isin(['--'])]
# 方法二:contains()
df[df["salary"].str.contains("--")]


10.提取value列和value1列出现频率最高的数字


# 先将两列使用append()按行合并,再用计数函数:
temp = df['value'].append(df['value1'])
temp.value_counts(ascending=False)#不加index,返回的是一个Series
temp.value_counts(ascending=False).index[:5] #返回一个数组


作业


import pandas as pd
import numpy as np
import re
data = pd.read_excel(r'pandas120.xlsx')
df = pd.DataFrame(data)
# 提取学历为本科,工资在25k-35k的数据
df1 = df.loc[df['education'].isin(['本科']) & df['salary'].isin(['25k-35k']), :]
# 提取salary列中以'40k'结尾的数据
df2 = df[df['salary'].str.endswith('40k')]
# 提取薪资区间中最低薪资与最高薪资的平均值大于30k的行,只需提取原始字段('createTime', 'education', 'salary')即可
salary = df
tmp = salary['salary'].str.extract(r'(\d+).*?(\d+)') # 正则匹配,分割字符串
salary['avg'] = ((tmp[0].astype('int') + tmp[1].astype('int')) / 2) # 切记 相加记得加小括号
df3 = salary[salary['avg'] > 30]
df3 = df3.drop(columns=['avg'])
# 将以上三题提取出来的行按照相同列进行合并,汇总到一个数据框中
answer_2 = pd.concat([df1, df2, df3], axis=0)
# 将三列数据合并成一列,并设置列名为answer,最后保留id(数据行数、answer)
data = pd.concat([answer_2.iloc[:, 0], answer_2.iloc[:, 1], answer_2.iloc[:, 2]])
df = pd.DataFrame(data, columns=['answer'])
df['id'] = range(len(df))
df = df[['id', 'answer']]
# 将结果保存为 csv 文件
df.to_csv(r'answer_2.csv', index=False, encoding='utf-8-sig')


收获


inplace = True表示在原DataFrame上进行操作 · pf.columns[索引]返回的是一个Index列表,可以用来作为.iloc[]的参数


· Pandas的insert()函数允许用户在指定的位置插入行和列。下面是insert()函数的语法:

DataFrame.insert(loc, column, value, allow_duplicates=False)

参数说明:

• loc:表示要插入的数据的位置,以整数形式表示。

• column:要插入的列名(如果未指定值,则必须传递列名)

• value:要插入的值。可以是单个值或一组值。

• allow_duplicates:如果设为True时,允许在同一位置上重复列名。

ps:已经存在的列的列名不能重复添加


· DataFrame对象

take函数是一个用于返回指定的行的函数。

语法:DataFrame.take(indices, axis=0, convert=None):

参数:

• indices:行的索引值(int或者list of ints)。

• axis:可选参数,默认值为0。

• convert: 可选参数,默认值为None。是否将索引转换为相应的列标签。

返回:Ndarray或者其他可迭代对象中存储的行元素。


·df.[] 里面也能对type为Series,数据为bool进行df数据筛选


相关文章
|
7月前
|
缓存 数据可视化 BI
Pandas高级数据处理:数据仪表板制作
在数据分析中,面对庞大、多维度的数据集(如销售记录、用户行为日志),直接查看原始数据难以快速抓住重点。传统展示方式(如Excel表格)缺乏交互性和动态性,影响决策效率。为此,我们利用Python的Pandas库构建数据仪表板,具备数据聚合筛选、可视化图表生成和性能优化功能,帮助业务人员直观分析不同品类商品销量分布、省份销售额排名及日均订单量变化趋势,提升数据洞察力与决策效率。
124 12
|
7月前
|
消息中间件 数据挖掘 数据处理
Pandas高级数据处理:数据流式计算
在大数据时代,Pandas作为Python强大的数据分析库,在处理结构化数据方面表现出色。然而,面对海量数据时,如何实现高效的流式计算成为关键。本文探讨了Pandas在流式计算中的常见问题与挑战,如内存限制、性能瓶颈和数据一致性,并提供了详细的解决方案,包括使用`chunksize`分批读取、向量化操作及`dask`库等方法,帮助读者更好地应对大规模数据处理需求。
153 17
|
7月前
|
数据可视化 数据挖掘 数据处理
Pandas高级数据处理:数据可视化进阶
Pandas是数据分析的强大工具,能高效处理数据并与Matplotlib、Seaborn等库集成,实现数据可视化。本文介绍Pandas在绘制基础图表(如折线图)和进阶图表(如分组柱状图、热力图)时的常见问题及解决方案,涵盖数据准备、报错处理、图表优化等内容,并通过代码案例详细解释,帮助读者掌握数据可视化的技巧。
151 13
|
7月前
|
数据采集 SQL 数据可视化
Pandas高级数据处理:交互式数据探索
Pandas是Python中流行的数据分析库,提供丰富的数据结构和函数,简化数据操作。本文从基础到高级介绍Pandas的使用,涵盖安装、读取CSV/Excel文件、数据查看与清洗、类型转换、条件筛选、分组聚合及可视化等内容。掌握这些技能,能高效进行交互式数据探索和预处理。
83 6
|
7月前
|
数据挖掘 数据处理 开发者
Pandas高级数据处理:实时数据处理
本文介绍了Pandas在实时数据处理中的应用,涵盖基础概念、常见问题及解决方案。Pandas是Python中强大的数据分析库,支持流式读取和增量更新数据,适用于大规模数据集的处理。通过分块读取、数据类型优化等方法,可有效解决内存不足等问题。文中还提供了代码示例,帮助读者更好地理解和掌握Pandas在实时数据处理中的使用技巧。
170 15
|
7月前
|
数据采集 存储 数据可视化
Pandas高级数据处理:数据报告生成
Pandas 是数据分析领域不可或缺的工具,支持多种文件格式的数据读取与写入、数据清洗、筛选与过滤。本文从基础到高级,介绍如何使用 Pandas 进行数据处理,并解决常见问题和报错,如数据类型不一致、时间格式解析错误、内存不足等。最后,通过数据汇总、可视化和报告导出,生成专业的数据报告,帮助你在实际工作中更加高效地处理数据。
186 8
|
7月前
|
存储 算法 数据挖掘
Pandas高级数据处理:数据压缩与解压
Pandas是数据分析的强大工具,尤其在处理大文件时,数据压缩技术至关重要。本文介绍如何使用Pandas进行数据压缩与解压,包括常见的gzip、bz2等格式。通过压缩技术,可以显著节省存储空间、加快传输速度并提高读写性能。文章还总结了常见问题及解决方案,如文件路径错误、不支持的压缩格式、内存不足和编码问题,帮助用户更高效地管理海量数据。
149 12
|
7月前
|
存储 数据挖掘 数据处理
Pandas高级数据处理:数据安全与隐私保护
在数字化时代,数据安全与隐私保护至关重要。本文介绍使用Pandas进行数据分析时常见的安全问题及解决方案,包括数据泄露风险、权限报错、数据类型转换错误等,并结合代码案例详细讲解如何避免和解决这些问题。同时,探讨高级策略如访问控制、匿名化、差分隐私及加密传输存储,确保数据分析合法合规。
182 7
|
7月前
|
存储 算法 数据处理
Pandas高级数据处理:数据加密与解密
在数字化时代,数据安全至关重要。Pandas作为Python的强大数据分析库,结合`cryptography`等加密库,可实现数据的高效加密与解密。本文介绍如何使用Pandas进行数据加密,涵盖对称加密、非对称加密及哈希算法,并提供常见问题及解决方案,确保敏感信息的安全性。通过示例代码演示加密流程,帮助读者掌握数据加密技术,提升数据安全性。
155 1
|
7月前
|
Python
python pandas学习(一)
该代码段展示了四个主要操作:1) 删除指定列名,如商品id;2) 使用正则表达式模糊匹配并删除列,例如匹配订单商品名称1的列;3) 将毫秒级时间戳转换为带有时区调整的日期时间格式,并增加8小时以适应本地时区;4) 将列表转换为DataFrame后保存为Excel文件,文件路径和名称根据变量拼接而成。
92 3

推荐镜像

更多