数据分析之Pandas从入门到放弃:代码+实战,9分钟带你推开Pandas大门!!!

简介: 数据分析之Pandas从入门到放弃:代码+实战,9分钟带你推开Pandas大门!!!

1. Pandas的基本定义


・在数据分析中,Pandas的使用频率很高

・Pandas可以说是基于NumPy构建的含有更高级数据结构和分析能力的工具包

・Series和DataFrame是两个核心数据结构,分别代表一维的序列和二维的表结构

・基于这两种数据结构,Pandas可以对数据进行导入、清洗、处理、统计和输出


2. Pandas的使用方法


2.1 Series

・Series是个定长的字典序列

・在存储的时候,相当于两个ndarry,这也是和字典结构最大的不同。因为字典结构,元素个数是不固定的

・Series的两个基本属性:

①index

②values

举个实例,来看一下 Series的使用方法:


# -*- coding: utf-8 -*-
"""
@ auth : carl_DJ
@ time : 2020-8-28
"""
from pandas import Series,DataFrame
x1 = Series([1,2,3,4])
x2 = Series(data=[1,2,3,4],index=['a','b','c','d'])
#使用字典来创建
d = {'a':1,'b':2,'c':3,'d':4}
x3=Series(d)
print(f'x1打印的结果是:{x1}' )
print('='*20)
print(f'x2打印的结果是:{x2}')
print('='*20)
print(f'x3打印的结果是:{x3}')

结果如下:

image.png



2.2 DataFrame使用

・类似数据库表,包括了行索引和列索引,可以将DataFrame看成是由相同索引的Series组成的字典类型


我们在举个例子:


# -*- coding: utf-8 -*-
"""
@ auth : carl_DJ
@ time : 2020-8-28
"""
from pandas import DataFrame
data = {
        'Chinese':[66,88,93,11,66],
        'Math':[30,20,40,50,77],
        'English':[65,88,90,55,22]
        }
df1 = DataFrame(data)
df2 = DataFrame(
            data,
            index=['张三','李四','王五','赵刘','贾七'],
            columns=['Chinese','Math','English']
                )
print(f'df1打印的结果是:\n{df1}')
print('='*30)
print(f'df2打印的结果是:\n{df2}')

看一下效果

image.png


2.2.1 删除操作

・删除DataFrame的 行与列

实例演示


#删除行
df2 = df2.drop(columns=['English'])
#删列
df2 = df2.drop(index=['张三'])

运行结果

image.png


2.2.2 去重操作

・去掉重复的值


#去掉重复的值
df1 = df1.drop_duplicates()

2.2.3 更改数据格式操作

・更改数据格式


#更改数据格式
df2['Chinese'].astype('str')
df2['Chinese'].astype(np.int64)

2.2.4 去掉数据间的空格操作

・去掉数据间的空格


#删除数据左右两边的空格
df2['Chinese'] = df2['Chinese'].map(str.split)

2.2.5 大小写转换操作

・全部大写


#全部大写转换
df2.columns = df2.columns.str.upper()

・全部小写


#全部小写转换
df2.columns = df2.columns.str.lower()

・首字母大写


#首字母大写
df2.columns = df2.columns.str.title()

2.2.6 数据清洗

・使用apply对数据进行清洗

apply是Pandas中自由度非常高的函数,使用频率非常高。

比如:

① 对Math列的数值进行大小写转换


#对Math列进行大小写转换
df2['Math'] = df2['Math'].apply(str.upper)

②定义函数,在apply中使用


#定义函数,在apply中使用
def par_df(par):
    return par*2
df1['Chinese'] = df1['Chinese'].apply(par_df)

2.3 Pandas中的统计函数

2.3.1 基本数据统计用法

・count() 统计个数,空值NaN不计算

・describe() 一次性输出多个统计指标,包括:count, mean, std, min, max等

・min()最小值

・max()最大值

・sum()总和

・median()中位数

・var()方差

・std()标准差

・argmin() 统计最小值的索引位置

・argmax()统计最大值的索引位置

・idxmin() 统计最小值的索引值

・idxmax() 统计最大值的索引值


2.3.2 函数链接用法

・inner内连接


#内连接
df3 = pd.merge(df1, df2, how='inner')

・outer外连接


#外连接
df3 = pd.merge(df1, df2, how='outer')

・right右连接


#内连接
df3 = pd.merge(df1, df2, how='right')

・left左连接


#内连接
df3 = pd.merge(df1, df2, how='left')

2.3.3 loc函数及iloc函数的用法

• loc函数:通过行索引 “Index” 中的具体值来取行数据(如取"Index"为"A"的行)

• iloc函数:通过行号来取行数据(如取第二行的数据)


老规矩,上代码

提取行的实例:


# -*- coding: utf-8 -*-
"""
@ auth : carl_DJ
@ time : 2020-8-28
"""
from pandas import DataFrame
data = {
        'Chinese':[66,88,93,11,66],
        'Math':[30,20,40,50,77],
        'English':[65,88,90,55,22]
        }
df2 = DataFrame(
            data,
            index=['张三','李四','王五','赵刘','贾七'],
            columns=['Chinese','Math','English']
                )
#提取index为'张三'的行
print(f"loc函数提取index为'张三'的行的内容:\n {df2.loc[u'张三']}")
print("="*30)
#提取第1行内容
print(f"iloc函数提取第1行的内容:\n {df2.iloc[1]}")

运行结果


image.png


提取列的实例:


# -*- coding: utf-8 -*-
"""
@ auth : carl_DJ
@ time : 2020-8-28
"""
from pandas import DataFrame
data = {
        'Chinese':[66,88,93,11,66],
        'Math':[30,20,40,50,77],
        'English':[65,88,90,55,22]
        }
df2 = DataFrame(
            data,
            index=['张三','李四','王五','赵刘','贾七'],
            columns=['Chinese','Math','English']
                )
#提取列为Englis的所有内容
#使用loc函数获取分数
print(f"loc函数提取列为Englis的所有内容:\n {df2.loc[:,['English']]}")
print("="*30)
#提取第2列的所有内容
#使用iloc函数获取分数
print(f"iloc函数提取第2列的所有内容:\n {df2.iloc[:,2]}")

运行结果


image.png

提取列和行的多条数据:


# -*- coding: utf-8 -*-
"""
@ auth : carl_DJ
@ time : 2020-8-28
"""
from pandas import DataFrame
data = {
        'Chinese':[66,88,93,11,66],
        'Math':[30,20,40,50,77],
        'English':[65,88,90,55,22]
        }
df2 = DataFrame(
            data,
            index=['zhangsan','lisi','wangwu','zhaoliu','jiaqi'],
            columns=['Chinese','Math','English']
                )
#使用loc函数获取分数
loc_soc = df2.loc[['zhangsan','zhaoliu'],['Chinese','English']]
print(f'zhangsan,zhaoliu的Chinese,English成绩分别是:\n{loc_sco}')
#使用iloc函数获取分数
iloc_sco = df2.iloc[[0,3],[0,2]]
print(f'zhangsan,zhaoliu的Chinese,English成绩分别是:\n{iloc_sco}')

运行结果

image.png


2.4 数据分组

・group by用法


import numpy as np
import pandas as pd
#读取数据csv文件,采用gbk编码格式
data = pd.read_csv('data_info.csv',encoding='gbk')
result = data.groupby('sex').age([np.sum,np.mean])
#打印结果
print(f'结果内容显示为:\n{result}')

2.5 数据排序

・排序函数sort_values()


#对A11列从大到小进行排序
df.sort_values('A11', ascending=False)

・索引还原reset_index()


'''
reset_index():可以还原索引,重新变为默认的整型索引
inplace = True:不创建新的对象,直接对原始对象进行修改
'''
df.reset_index(inplace=True)

注:

这里的 sort_values 方法类似于 SQL中的order by 用法。


2.6读写文件

・读取csv文件


#读取csv文件
pd.read_csv('file_name')

・写入csv文件


#写入csv文件,不保存index
pd.to_csv('file_name',index=False)

2.7 合并两个Dataframe

・使用merge通过index来合并Dataframe


#合并两个Dataframe
df2 = df.merge(df2,left_index=True,right_index=True,how='left')

3. Pandas实战代码及参考文献

Pandas实战代码:

《Pandas 5行代码实现对excel 读写操作》

《Python3,pandas自动处理exlce数据及yagmail邮件自动发送》

目录
相关文章
|
15天前
|
数据采集 存储 数据挖掘
Python数据分析:Pandas库的高效数据处理技巧
【10月更文挑战第27天】在数据分析领域,Python的Pandas库因其强大的数据处理能力而备受青睐。本文介绍了Pandas在数据导入、清洗、转换、聚合、时间序列分析和数据合并等方面的高效技巧,帮助数据分析师快速处理复杂数据集,提高工作效率。
44 0
|
9天前
|
机器学习/深度学习 数据采集 数据挖掘
解锁 Python 数据分析新境界:Pandas 与 NumPy 高级技巧深度剖析
Pandas 和 NumPy 是 Python 中不可或缺的数据处理和分析工具。本文通过实际案例深入剖析了 Pandas 的数据清洗、NumPy 的数组运算、结合两者进行数据分析和特征工程,以及 Pandas 的时间序列处理功能。这些高级技巧能够帮助我们更高效、准确地处理和分析数据,为决策提供支持。
21 2
|
16天前
|
存储 数据挖掘 数据处理
Python数据分析:Pandas库的高效数据处理技巧
【10月更文挑战第26天】Python 是数据分析领域的热门语言,Pandas 库以其高效的数据处理功能成为数据科学家的利器。本文介绍 Pandas 在数据读取、筛选、分组、转换和合并等方面的高效技巧,并通过示例代码展示其实际应用。
30 2
|
7天前
|
并行计算 数据挖掘 大数据
Python数据分析实战:利用Pandas处理大数据集
Python数据分析实战:利用Pandas处理大数据集
|
7天前
|
数据采集 数据可视化 数据挖掘
利用Python进行数据分析:Pandas库实战指南
利用Python进行数据分析:Pandas库实战指南
|
2月前
|
机器学习/深度学习 数据处理 Python
从NumPy到Pandas:轻松转换Python数值库与数据处理利器
从NumPy到Pandas:轻松转换Python数值库与数据处理利器
75 0
|
4月前
|
数据挖掘 Python
【Python】已解决:Python pandas读取Excel表格某些数值字段结果为NaN问题
【Python】已解决:Python pandas读取Excel表格某些数值字段结果为NaN问题
386 0
|
1月前
|
机器学习/深度学习 并行计算 大数据
【Python篇】深入挖掘 Pandas:机器学习数据处理的高级技巧
【Python篇】深入挖掘 Pandas:机器学习数据处理的高级技巧
86 3
|
1月前
|
数据采集 数据挖掘 API
Python数据分析加速器:深度挖掘Pandas与NumPy的高级功能
在Python数据分析的世界里,Pandas和NumPy无疑是两颗璀璨的明星,它们为数据科学家和工程师提供了强大而灵活的工具集,用于处理、分析和探索数据。今天,我们将一起深入探索这两个库的高级功能,看看它们如何成为数据分析的加速器。
40 1
|
2月前
|
机器学习/深度学习 数据采集 监控
Pandas与Matplotlib:Python中的动态数据可视化
Pandas与Matplotlib:Python中的动态数据可视化

热门文章

最新文章