8个Python高效数据分析的技巧

简介:

不管是参加Kaggle比赛,还是开发一个深度学习应用,第一步总是数据分析。

这篇文章介绍了8个使用Python进行数据分析的方法,不仅能够提升运行效率,还能够使代码更加“优美”。

一行代码定义List

定义某种列表时,写For 循环过于麻烦,幸运的是,Python有一种内置的方法可以在一行代码中解决这个问题。

da2779e6b9188ec5b3ce6ffb3d3a2a2620919eef

下面是使用For循环创建列表和用一行代码创建列表的对比。

 
x = [ 1 , 2 , 3 , 4 ]
out = []
for item in x:
out.append(item** 2 )
print (out)

[ 1 , 4 , 9 , 16 ]

# vs.

x = [ 1 , 2 , 3 , 4 ]
out = [item** 2 for item in x]
print (out)

[ 1 , 4 , 9 , 16 ]

Lambda表达式

厌倦了定义用不了几次的函数? Lambda表达式是你的救星!

Lambda表达式用于在Python中创建小型,一次性和匿名函数对象, 它能替你创建一个函数。

lambda表达式的基本语法是:

lambda arguments: expression

注意!只要有一个lambda表达式,就可以完成常规函数可以执行的任何操作。

你可以从下面的例子中,感受lambda表达式的强大功能:

 
double = lambda x: x * 2
print (double( 5 ))

10

Map和Filter

一旦掌握了lambda表达式,学习将它们与Map和Filter函数配合使用,可以实现更为强大的功能。

具体来说,map通过对列表中每个元素执行某种操作并将其转换为新列表。

在本例中,它遍历每个元素并乘以2,构成新列表。 注意!list()函数只是将输出转换为列表类型)

 
# Map
seq = [ 1 , 2 , 3 , 4 , 5 ]
result = list ( map ( lambda var: var* 2 , seq))
print (result)

[ 2 , 4 , 6 , 8 , 10 ]

Filter函数接受一个列表和一条规则,就像map一样,但它通过比较每个元素和布尔过滤规则来返回原始列表的一个子集。

 
# Filter
seq = [ 1 , 2 , 3 , 4 , 5 ]
result = list ( filter ( lambda x: x > 2 , seq))
print (result)

[ 3 , 4 , 5 ]

Arange和Linspace

Arange返回给定步长的等差列表。

它的三个参数start、stop、step分别表示起始值,结束值和步长, 请注意!stop点是一个“截止”值,因此它不会包含在数组输出中。

 
# np.arange(start, stop, step)
np.arange( 3 , 7 , 2 )

array([ 3 , 5 ])

Linspace和Arrange非常相似,但略有不同。

Linspace以指定数目均匀分割区间,所以给定区间start和end,以及等分分割点数目num,linspace将返回一个NumPy数组。

这对绘图时数据可视化和声明坐标轴特别有用。

 
# np.linspace(start, stop, num)
np.linspace( 2.0 , 3.0 , num = 5 )

array([ 2.0 , 2.25 , 2.5 , 2.75 , 3.0 ]

Axis代表什么?

在Pandas中,删除一列或在NumPy矩阵中求和值时,可能会遇到Axis。

我们用删除一列(行)的例子:

 
df.drop( 'Column A' , axis = 1 )
df.drop( 'Row A' , axis = 0 )

如果你想处理列,将Axis设置为1,如果你想要处理行,将其设置为0。

但为什么呢? 

回想一下Pandas中的shape。

 
df.shape
( # of Rows, # of Columns)

从Pandas DataFrame中调用shape属性返回一个元组,第一个值代表行数,第二个值代表列数。

如果你想在Python中对其进行索引,则行数下标为0,列数下标为1,这很像我们如何声明轴值。

Concat,Merge和Join

如果您熟悉SQL,那么这些概念对您来说可能会更容易。

无论如何,这些函数本质上就是以特定方式组合DataFrame的方式。

在哪个时间跟踪哪一个最适合使用可能很困难,所以让我们回顾一下。

Concat允许用户在表格下面或旁边追加一个或多个DataFrame(取决于您如何定义轴)。

118c84dc5efaabf56ee6d1126d9d3979f9d040c1

Merge将多个DataFrame合并指定主键(Key)相同的行。

8172d7fa08db22571477f15c10f25281f8dedceb

Join,和Merge一样,合并了两个DataFrame。

但它不按某个指定的主键合并,而是根据相同的列名或行名合并。

afde361b48c451b94c41cd403d330ffd6ddac133

Pandas Apply

Apply是为Pandas Series而设计的。

如果你不太熟悉Series,可以将它想成类似Numpy的数组。

Apply将一个函数应用于指定轴上的每一个元素。

使用Apply,可以将DataFrame列(是一个Series)的值进行格式设置和操作,不用循环,非常有用!

 
df = pd.DataFrame([[ 4 , 9 ] , ] * 3 , columns =[ 'A' , 'B' ])
df
A B
0 4 9
1 4 9
2 4 9

df.apply(np.sqrt)
A B
0 2.0 3.0
1 2.0 3.0
2 2.0 3.0

df.apply(np.sum , axis = 0 )
A 12
B 27

df.apply(np.sum , axis = 1 )
0 13
1 13
2 13

Pivot Tables

如果您熟悉Microsoft Excel,那么你也许听说过数据透视表。

Pandas内置的pivot_table函数以DataFrame的形式创建电子表格样式的数据透视表,,它可以帮助我们快速查看某几列的数据。

下面是几个例子:

非常智能地将数据按照“Manager”分了组:

 
pd.pivot_table(df, index=["Manager", "Rep"])
937c05e1f552c0cd11b284c8b39ebfbac1b653a1

或者也可以筛选属性值

pd.pivot_table(df,index=["Manager","Rep"],values=["Price"])
a2fbdd9c1a35ff46991cef32f16cd036b628ad43
总结

希望上面的这些描述能够让你发现Python一些好用的函数和概念。


原文发布时间为:2018-09-7

本文来自云栖社区合作伙伴“大数据地盘”,了解相关信息可以关注“大数据地盘”。

相关文章
|
27天前
|
数据采集 存储 数据挖掘
Python数据分析:Pandas库的高效数据处理技巧
【10月更文挑战第27天】在数据分析领域,Python的Pandas库因其强大的数据处理能力而备受青睐。本文介绍了Pandas在数据导入、清洗、转换、聚合、时间序列分析和数据合并等方面的高效技巧,帮助数据分析师快速处理复杂数据集,提高工作效率。
62 0
|
12天前
|
机器学习/深度学习 数据可视化 数据挖掘
使用Python进行数据分析和可视化
【10月更文挑战第42天】本文将介绍如何使用Python进行数据分析和可视化。我们将从数据导入、清洗、探索性分析、建模预测,以及结果的可视化展示等方面展开讲解。通过这篇文章,你将了解到Python在数据处理和分析中的强大功能,以及如何利用这些工具来提升你的工作效率。
|
21天前
|
机器学习/深度学习 数据采集 数据挖掘
解锁 Python 数据分析新境界:Pandas 与 NumPy 高级技巧深度剖析
Pandas 和 NumPy 是 Python 中不可或缺的数据处理和分析工具。本文通过实际案例深入剖析了 Pandas 的数据清洗、NumPy 的数组运算、结合两者进行数据分析和特征工程,以及 Pandas 的时间序列处理功能。这些高级技巧能够帮助我们更高效、准确地处理和分析数据,为决策提供支持。
38 2
|
28天前
|
存储 数据挖掘 数据处理
Python数据分析:Pandas库的高效数据处理技巧
【10月更文挑战第26天】Python 是数据分析领域的热门语言,Pandas 库以其高效的数据处理功能成为数据科学家的利器。本文介绍 Pandas 在数据读取、筛选、分组、转换和合并等方面的高效技巧,并通过示例代码展示其实际应用。
34 2
|
2月前
|
数据采集 数据可视化 数据挖掘
R语言与Python:比较两种数据分析工具
R语言和Python是目前最流行的两种数据分析工具。本文将对这两种工具进行比较,包括它们的历史、特点、应用场景、社区支持、学习资源、性能等方面,以帮助读者更好地了解和选择适合自己的数据分析工具。
33 2
|
11天前
|
数据采集 数据可视化 数据挖掘
掌握Python数据分析,解锁数据驱动的决策能力
掌握Python数据分析,解锁数据驱动的决策能力
|
19天前
|
并行计算 数据挖掘 大数据
Python数据分析实战:利用Pandas处理大数据集
Python数据分析实战:利用Pandas处理大数据集
|
19天前
|
数据采集 数据可视化 数据挖掘
利用Python进行数据分析:Pandas库实战指南
利用Python进行数据分析:Pandas库实战指南
|
21天前
|
SQL 数据挖掘 Python
数据分析编程:SQL,Python or SPL?
数据分析编程用什么,SQL、python or SPL?话不多说,直接上代码,对比明显,明眼人一看就明了:本案例涵盖五个数据分析任务:1) 计算用户会话次数;2) 球员连续得分分析;3) 连续三天活跃用户数统计;4) 新用户次日留存率计算;5) 股价涨跌幅分析。每个任务基于相应数据表进行处理和计算。
|
21天前
|
数据采集 数据可视化 数据挖掘
使用Python进行数据分析和可视化
【10月更文挑战第33天】本文将介绍如何使用Python编程语言进行数据分析和可视化。我们将从数据清洗开始,然后进行数据探索性分析,最后使用matplotlib和seaborn库进行数据可视化。通过阅读本文,你将学会如何运用Python进行数据处理和可视化展示。