Python典型数据分析流程——纯理论(深入理解的看)

 

一、认识数据分析

广义的数据分析包括狭义数据分析和数据挖掘。

狭义的数据分析是指根据分析目的，采用对比分析、分组分析、交叉分析和回归分析等分析方法，对收集来的数据进行处理与分析，提取有价值的信息，发挥数据的作用，得到一个特征统计量结果的过程。

数据挖掘则是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，通过应用聚类、分类、回归和关联规则等技术，挖掘潜在价值的过程。

典型的数据分析流程

大数据服务对象

大数据是对【大】营销服务，选好渠道，用对方法，找对人，讲好故事。这是大数据营销的核心。

1、客户分析

主要是客户的基本数据信息进行商业行为分析，首先，界定目标客户，根据客户的需求，目标客户的性质，所处行业的特征以及客户的经济状况等基本信息使用统计分析方法和预测验证法，分析目标客户，提高销售效率。

其次了解客户的采购过程，根据客户采购类型、采购性质进行分类分析制定不同的营销策略。

最后还可以根据已有的客户特征，进行客户特征分析、客户忠诚分析、客户注意力分析、客户营销分析和客户收益分析。

2、营销分析

囊括了产品分析，价格分析，渠道分析，广告与促销分析这四类分析。

产品分析

主要是竞争产品分析，通过对竞争产品的分析制定自身产品策略。

价格分析

又可以分为成本分析和售价分析，成本分析的目的是降低不必要成本，售价分析的目的是制定符合市场的价格。

渠道分析

目的是指对产品的销售渠道进行分析,确定最优的渠道配比。

广告与促销分析

则能够结合客户分析，实现销量的提升，利润的增加。

3、社交媒体分析

以不同社交媒体渠道生成的内容为基础，实现不同社交媒体的用户分析，访问分析，互动分析等。同时，还能为情感和舆情监督提供丰富的资料。

1. 用户分析主要根据用户注册信息，登录平台的时间点和平时发表的内容等用户数据，分析用户个人画像和行为特征。
2. 访问分析则是通过用户平时访问的内容，分析用户的兴趣爱好，进而分析潜在的商业价值。
3. 互动分析根据互相关注对象的行为预测该对象未来的某些行为特征。

4、网络安全

新型的病毒防御系统可使用数据分析技术，建立潜在攻击识别分析模型，监测大量网络活动数据和相应的访问行为，识别可能进行入侵的可疑模式，做到未雨绸缪。

5、设备管理

通过物联网技术能够收集和分析设备上的数据流，包括连续用电、零部件温度、环境湿度和污染物颗粒等无数潜在特征，建立设备管理模型，从而预测设备故障，合理安排预防性的维护，以确保设备正常作业，降低因设备故障带来的安全风险。

6、交通物流分析

物流是物品从供应地向接收地的实体流动。通过业务系统和GPS定位系统获得数据，对于

客户使用数据构建交通状况预测分析模型，有效预测实时路况、物流状况、车流量、客流量

和货物吞吐量，进而提前补货，制定库存管理策略。

7、欺诈行为检测

身份信息泄露盗用事件逐年增长，随之而来的是欺诈行为和交易的增多。公安机关，各大金融机构，电信部门可利用用户基本信息，用户交易信息，用户通话短信信息等数据，识别可能发生的潜在欺诈交易，做到提前预防未雨绸缪。

目前主流的数据分析语言有R，Python, MATLAB三种程序语言。

二、熟悉Python数据分析的工具

Python数据分析主要包含以下5个方面优势

1. 语法简单精练。对于初学者来说，比起其他编程语言，Python更容易上手。
2. 有很强大的库。可以只使用Python这一-种语言 去构建以数据为中心的应用程序。
3. 功能强大。Python是一 个混合体，丰富的工具集使它介于传统的脚本语言和系统语言之间。
4. Python不仅具备所有脚本语言简单和易用的特点，还提供了编译语言所具有的高级软件工
5. 程工具。
6. 不仅适用于研究和原型构建，同时也适用于构建生产系统。研究人员和工程技术人员使用
7. 同一种编程工具，会给企业带来非常显著的组织效益，并降低企业的运营成本。
8. Python是一门胶水语言。Python程序能够以多 种方式轻易地与其他语言的组件"粘接"在一起。

1、IPython——科学计算标准I具集的组成部分

1. 是一个增强的Python she11， 目的是提高编写、测试、调试Py thon代码的速度。
2. 主要用于交互式数据并行处理，是分布式计算的基础架构。
3. 提供了一个类似于Mathemati ca的HTML笔记本，一个基于Qt框架的GUI控制台，具有绘图、多行编辑以及语法高亮显示等功能。

2、NumPy(Numerical Python)——Python科学计算的基础包

1. 快速高效的多维数组对象ndarray.
2. 对数组执行元素级的计算以及直接对数组执行数学运算的函数。
3. 读写硬盘上基于数组的数据集的工具。
4. 线性代数运算、傅里叶变换，以及随机数生成的功能。
5. 将C、C++、Fortran代码集成到Python 的工具。

3、SciPy——专门 解决科学计算中各种标准问题域的模块的集合

SciPy主要包含了8个模块，不同的子模块有不同的应用，如插值、积分、优化、图像处理和特殊函数等。

4、Pandas——数据分析核心库

1. 提供了一系列能够快速、便捷地处理结构化数据的数据结构和函数。
2. 高性能的数组计算功能以及电子表格和关系型数据库(如SQL) 灵活的数据处理功能。
3. 复杂精细的索引功能，以便便捷地完成重塑、切片和切块、聚合及选取数据子集等操作。

5、Matplotlib——绘制数据图表的Python库

1. Python的2D绘图库，非常适合创建出版物上用的图表。
2. 操作比较容易，只需几行代码即可生成直方图、功率谱图、条形图、错误图和散点图等图形。
3. 提供了pylab的模块，其中包括了NumPy和pyp7 ot中许多常用的函数，方便用户快速进行计算和绘图。
4. 交互式的数据绘图环境，绘制的图表也是交互式的。

6、scikit-learn——数据挖掘和数据分析工具

1. 简单有效，可以供用户在各种环境下重复使用。
2. 封装了-些常用的算法方法。
3. 基本模块主要有数据预处理、模型选择、分类、聚类、数据降维和回归6个，在数据量不大的情况下，scikit-learn可以解决大部分问题。

7、Spyder——交互式Python语言开发环境

1. 提供高级的代码编辑、交互测试和调试等特性。
2. 包含数值计算环境。
3. 可用于将调试控制台直接集成到图形用户界面的布局中。
4. 模仿MATLAB的“工作空间”，可以很方便地观察和修改数组的值。

三、安装Python的Anaconda发行版

下载地址：这里我给的是可以国内快速下载的镜像地址，很快，绝对能访问到。

Index of /anaconda/archive/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirror

选自己用就行。

到这里就安装完毕了：

查看

四、掌握Jupyter Notebook常用功能

我们打开我们安装的

创建一个新的文件夹。