黑马程序员---四天快速入门Python数据挖掘(第一天)

简介: 黑马程序员---四天快速入门Python数据挖掘(第一天)

一、数据挖掘基础环境安装与使用


1.1 库的安装


本教程基于win10下,Python版本为3.7


  1. 创建虚拟环境


conda create -n data_mining python=3.7


  1. 激活环境


conda activate data_mining


  1. 安装需要的相关库


整个数据挖掘基础阶段会用到的库,为了统一版本号,安装以下版本


matplotlib==2.2.2
numpy==1.14.2
pandas==0.20.3
TA-Lib==0.4.16   # 技术指标库
tables==3.4.2    # hdf5
jupyter==1.0.0   # 数据分析与展示平台


使用以下命令


pip install matplotlib==2.2.2 -i https://pypi.douban.com/simple
pip install numpy -i https://pypi.douban.com/simple
pip install pandas -i https://pypi.douban.com/simple
pip install tables -i https://pypi.douban.com/simple
pip install jupyter==1.0.0 -i https://pypi.douban.com/simple


安装TA-Lib需要找轮子,安装教程查看此链接:博客链接


1.2 jupyter notebook使用


jupyter怎么使用查看我的另外一篇博客:链接


jupyter设置代码自动补全功能:教程链接


优势:


  1. 画图方便


  1. 数据展示方便:按代码块运行


1 界面启动:终端输入:


jupyter notebook


2 cell操作


cell:一块代码块


编辑模式


命令模式:按ESC退出编辑,进入命令模式


2)快捷键操作


shift +enter:执行本单元格代码,并跳转到下一单元


Ctrl+enter:执行本单元代码,留在本单元



3 markdown演示



二、Matplotlib


2.1 Matplotlib之HelloWorld


2.1.1 什么是Matplotlib


专门用于开发2D图表(包括3D图表),画二维图表的工具库


以渐进、交互式方式实现数据可视化


mat:matrix矩阵


plot:画图


lib:library库


2.1.2 为什么要学习Matplotlib


可视化是在整个数据挖掘的关键辅助工具,可以清晰的理解数据,从而调整我们的分析方法。


  • 能将数据进行可视化,更直观的呈现


  • 使数据更加客观、更具有说服力


2.1.3 实现一个简单的Matplotlib画图


import matplotlib.pyplot as plt
#%matplotlib inline
plt.figure()
plt.plot([1,0,9],[4,5,6])  # x,y
plt.show()




2.1.5 扩展知识点:Matplotlib三层结构


1 容器层


  • 画板层Canvas


  • 画布层Figure


  • 绘图区



2 辅助显示层


3 图像层


2.2 折线图(plot)与基础绘图功能


2.2.1 折线图绘制与保存图片


为了更好地理解所有基础绘图功能,我们通过天气温度变化的绘图来融合所有的基础API使用


1 matplotlib.pyplot模块


该模块包含了一系列类似于MATLAB的画图函数。它的函数作用于当前图形(figure)的当前坐标系(axes)


import matplotlib.pyplot as plt


2 折线图绘制与显示


展现上海一周的天气,比如从星期一到星期日的天气温度


import matplotlib.pyplot as plt
# 折线图绘图与显示
# 1、创建画布
plt.figure()
# 2、
plt.plot([1,2,3,4,5,6,7],[17,17,18,15,11,11,13])
# 3、显示图像
plt.show()



3 设置画布属性与图片保存


plt.figure(figsize=(), dpi=)
  sigsize:指定图的长度
  dpi:图像的清晰度
  返回fig对象
plt.savefig(path)


例:


import matplotlib.pyplot as plt
# 折线图绘图与显示
# 1、创建画布
plt.figure(figsize=(20,8), dpi=80)
# 2、创建图像
plt.plot([1,2,3,4,5,6,7],[17,17,18,15,11,11,13])
# 保存图像
plt.savefig("test78.png")
# 3、显示图像
plt.show()


2.2.2 完善原始折线图1(辅助显示层)


1 准备数据并画出初始折线图


import matplotlib.pyplot as plt
import random
# 需求 :画出城市11点到12点1小时内每分钟的温度变化折线图,范围在15~18度
# 1、准备数据 x,y
x = range(60)
y_shanghai = [random.uniform(15, 18) for i in x]
#print(len(y_shanghai))
# 2、创建画布
plt.figure(figsize=(20,8), dpi=80)
# 3、绘制图像
plt.plot(x, y_shanghai)
# 4、显示图像
plt.show()



2 添加自定义x,y刻度



import matplotlib.pyplot as plt
import random
from matplotlib.font_manager import FontProperties  # 字体管理器
#font = FontProperties(fname="C:\\Windows\\Fonts\\simsunb.ttf", size=15)  # 设置汉字格式
# 需求 :画出城市11点到12点1小时内每分钟的温度变化折线图,范围在15~18度
# 1、准备数据 x,y
x = range(60)
y_shanghai = [random.uniform(15, 18) for i in x]
#print(len(y_shanghai))
# 2、创建画布
plt.figure(figsize=(20,8), dpi=80)
# 3、绘制图像
plt.plot(x, y_shanghai)
# 修改x,y刻度
# 准备x的刻度说明
x_label = ["11点{}分".format(i) for i in x]
plt.xticks(x[::5], x_label[::5])
plt.yticks(range(40)[::5])  # y刻度
# 4、显示图像
plt.show()



4 添加网格显示


为了更加清楚地观察图形对应的值


# 添加网格显示
plt.grid(True, linestyle='--', alpha=0.5)



5 添加描述信息


添加x轴,y轴描述信息及标题


import matplotlib.pyplot as plt
import random
from matplotlib.font_manager import FontProperties  # 字体管理器
#font = FontProperties(fname="C:\\Windows\\Fonts\\simsunb.ttf", size=15)  # 设置汉字格式
# 需求 :画出城市11点到12点1小时内每分钟的温度变化折线图,范围在15~18度
# 1、准备数据 x,y
x = range(60)
y_shanghai = [random.uniform(15, 18) for i in x]
#print(len(y_shanghai))
# 2、创建画布
plt.figure(figsize=(20,8), dpi=80)
# 3、绘制图像
plt.plot(x, y_shanghai)
# 修改x,y刻度
# 准备x的刻度说明
x_label = ["11点{}分".format(i) for i in x]
plt.xticks(x[::5], x_label[::5])
plt.yticks(range(40)[::5])  # y刻度
# 添加网格显示
plt.grid(True, linestyle='--', alpha=0.5)
# 添加标题
plt.xlabel("time")
plt.ylabel("temperature")
plt.title("figure_1")
# 4、显示图像
plt.show()



2.2.3 完善原始折线图2(图像层)


需求:再添加一个城市的温度变化



显示图例


注意:如果只在plt.plot()中设置label还不能最终显示出图例,还需要通过plt.legend()将图例显示出来。


plt.legend(loc='best')



import matplotlib.pyplot as plt
import random
from matplotlib.font_manager import FontProperties  # 字体管理器
#font = FontProperties(fname="C:\\Windows\\Fonts\\simsunb.ttf", size=15)  # 设置汉字格式
# 需求 :画出城市11点到12点1小时内每分钟的温度变化折线图,范围在15~18度
# 1、准备数据 x,y
x = range(60)
y_shanghai = [random.uniform(15, 18) for i in x]
y_beijing = [random.uniform(1, 3) for j in x]
# 2、创建画布
plt.figure(figsize=(20,8), dpi=80)
# 3、绘制图像
plt.plot(x, y_shanghai, color="r", linestyle='-.', label='shanghai')
plt.plot(x, y_beijing, color='b', label='beijing')
# 显示图例
plt.legend(loc='lower right')
# 修改x,y刻度
# 准备x的刻度说明
x_label = ["11:{}".format(i) for i in x]
plt.xticks(x[::5], x_label[::5])
plt.yticks(range(40)[::5])  # y刻度
# 添加网格显示
plt.grid(True, linestyle='--', alpha=0.5)
# 添加标题
plt.xlabel("time")
plt.ylabel("temperature")
plt.title("figure_1")
# 4、显示图像
plt.show()



2.2.4 多个坐标系显示:plt.subplots(面向对象的画图方法)



import matplotlib.pyplot as plt
import random
from matplotlib.font_manager import FontProperties  # 字体管理器
#font = FontProperties(fname="C:\\Windows\\Fonts\\simsunb.ttf", size=15)  # 设置汉字格式
# 需求 :画出城市11点到12点1小时内每分钟的温度变化折线图,范围在15~18度
# 1、准备数据 x,y
x = range(60)
y_shanghai = [random.uniform(15, 18) for i in x]
y_beijing = [random.uniform(1, 3) for j in x]
# 2、创建画布
#plt.figure(figsize=(20,8), dpi=80)
figure, axes = plt.subplots(nrows=1, ncols=2, figsize=(20,8), dpi=80)
# 3、绘制图像
axes[0].plot(x, y_shanghai, color="r", linestyle='-.', label='shanghai')
axes[1].plot(x, y_beijing, color='b', label='beijing')
# 显示图例
axes[0].legend(loc='lower right')
axes[1].legend(loc='lower right')
# 修改x,y刻度
# 准备x的刻度说明
x_label = ["11:{}".format(i) for i in x]
axes[0].set_xticks(x[::5])
axes[0].set_xticklabels(x_label[::5])
axes[0].set_yticks(range(40)[::5])  # y刻度
axes[1].set_xticks(x[::5])
axes[1].set_xticklabels(x_label[::5])
axes[1].set_yticks(range(40)[::5])  # y刻度
# 添加网格显示
axes[0].grid(True, linestyle='--', alpha=0.5)
axes[1].grid(True, linestyle='--', alpha=0.5)
# 添加标题
axes[0].set_xlabel("time")
axes[0].set_ylabel("temperature")
axes[0].set_title("figure_1")
axes[1].set_xlabel("time")
axes[1].set_ylabel("temperature")
axes[1].set_title("figure_2")
# 4、显示图像
plt.show()



2.2.5 折线图的应用场景


  • 呈现公司产品每天活跃用户数


  • 呈现APP每天下载数量


  • 呈现产品新功能上线后,用户点击次数随时间的变化


  • 扩展:画各种数学函数图像



import matplotlib.pyplot as plt
import random
import numpy as np
# 绘制数学函数图像
# 1、准备x,y数据
x = np.linspace(-1,1,1000)
y = 2 * x * x
# 2、创建画布
plt.figure(figsize=(20,8), dpi=80)
# 3、绘制图像
plt.plot(x,y)
# 添加网格显示
plt.grid(linestyle='--', alpha=0.5)
# 4、显示图像
plt.show()



2.3 散点图(scatter)


2.3.1 常见图像种类及意义







2.3.2 散点图绘制


需求:探究房屋面积与房屋价格的关系


import matplotlib.pyplot as plt
import random
import numpy as np
# 需求:探究房屋面积和房屋价格的关系
# 1、准备数据
x = [225.98, 247.07, 253.14, 457.85, 241.58, 301.01, 20.67, 288.64,
     163.56, 120.06, 207.83, 342.75, 147.9, 53.06, 224.72, 29.51,
     21.61, 483.21, 245.25, 399.25, 343.35]
y = [196.63, 203.88, 210.75, 372.74, 202.41, 247.61, 24.9, 239.34,
     140.32, 104.15, 176.84, 288.23, 128.79, 49.64, 191.74, 33.1,
     30.74, 400.02, 205.35, 330.64, 283.45]
# 2、创建画布
plt.figure(figsize=(20,8), dpi=80)
# 3、绘制图像
plt.scatter(x,y)
# 4、显示图像
plt.show()



2.4 柱状图(bar)


2.4.1 柱状图绘制



需求一:对比每部电影的票房收入





代码如下:


import matplotlib.pyplot as plt
import random
import numpy as np
# 1、准备数据
movie_names = ['雷神', '正义联盟', '东方快车谋杀案', '寻梦环游记', '全球风暴', '降魔传', '追捕']
tickets = [73853, 57767, 22354, 15969, 8725, 8716, 8318]
# 2、创建画布
plt.figure(figsize=(20,8), dpi=80)
# 3、绘制柱状图
x_ticks = range(len(movie_names))
plt.bar(x_ticks, tickets, color=['b', 'r', 'g', 'y', 'm', 'k', 'c'])
# 修改x刻度
plt.xticks(x_ticks, movie_names)
# 添加标题
plt.title("movies")
# 添加网格
plt.grid(linestyle='--', alpha=0.5)
# 4、显示图像
plt.show()



需求二:如何对比电影票房收入才更加有说服力


比较相同天数的票房



import matplotlib.pyplot as plt
import random
import numpy as np
# 1、准备数据
movie_name = ['雷神', '正义联盟', '寻梦环游记']
first_day = [10587.6, 10062.5, 1275.7]
first_weekday = [36224.9, 34479.6, 11830]
# 2、创建画布
plt.figure(figsize=(20,8), dpi=80)
# 3、绘制柱状图
plt.bar(range(len(movie_name)), first_day, width=0.2, label="first_day")
plt.bar([0.2, 1.2, 2.2], first_weekday, width=0.2, label='first_weekday')
plt.legend()  # 显示图例
# 修改刻度
plt.xticks([0.1, 1.1, 2.1], movie_name)
# 4、显示图像
plt.show()



2.5 直方图(histogram)


2.5.1 直方图介绍





2.5.3 直方图绘制



import matplotlib.pyplot as plt
import random
import numpy as np
# 需求:电影时长分布状况
# 1、准备数据
time = [131, 98, 125, 131, 124, 139, 131, 117, 128, 108, 135, 138, 131, 102, 107, 114, 119, 125]
# 2、创建画布
plt.figure(figsize=(20,8), dpi=80)
# 3、绘制柱状图
distance = 2
group_num = int((max(time) - min(time)) / distance)
plt.hist(time, bins=group_num)
# 修改x轴刻度
plt.xticks(range(min(time), max(time), distance))
# 添加网格
plt.grid(linestyle='--', alpha=0.5)
# 4、显示图像
plt.show()



3 直方图注意点




2.6 饼图(pie)


2.6.1 饼图介绍



2.6.2 饼图绘制



需求:显示不同的电影的排片占比


import matplotlib.pyplot as plt
import random
import numpy as np
# 需求:显示不同的电影的排片占比
# 1、准备数据
movie_names = ['雷神', '正义联盟', '东方快车谋杀案', '寻梦环游记', '全球风暴', '降魔传', '追捕']
place_count = [73853, 57767, 22354, 15969, 8725, 8716, 8318]
# 2、创建画布
plt.figure(figsize=(20,8), dpi=80)
# 3、绘制柱状图
plt.pie(place_count, labels=movie_names,
        colors=['b', 'r', 'g', 'y', 'm', 'k', 'c'], autopct='%1.2f%%')
# 显示图例
plt.legend()
plt.axis('equal')
# 4、显示图像
plt.show()



总结:


目录
相关文章
|
2月前
|
数据采集 数据可视化 数据挖掘
利用Python自动化处理Excel数据:从基础到进阶####
本文旨在为读者提供一个全面的指南,通过Python编程语言实现Excel数据的自动化处理。无论你是初学者还是有经验的开发者,本文都将帮助你掌握Pandas和openpyxl这两个强大的库,从而提升数据处理的效率和准确性。我们将从环境设置开始,逐步深入到数据读取、清洗、分析和可视化等各个环节,最终实现一个实际的自动化项目案例。 ####
305 10
|
6天前
|
数据采集 数据安全/隐私保护 Python
从零开始:用Python爬取网站的汽车品牌和价格数据
在现代化办公室中,工程师小李和产品经理小张讨论如何获取懂车帝网站的汽车品牌和价格数据。小李提出使用Python编写爬虫,并通过亿牛云爬虫代理避免被封禁。代码实现包括设置代理、请求头、解析网页内容、多线程爬取等步骤,确保高效且稳定地抓取数据。小张表示理解并准备按照指导操作。
从零开始:用Python爬取网站的汽车品牌和价格数据
|
1天前
|
算法 Serverless 数据处理
从集思录可转债数据探秘:Python与C++实现的移动平均算法应用
本文探讨了如何利用移动平均算法分析集思录提供的可转债数据,帮助投资者把握价格趋势。通过Python和C++两种编程语言实现简单移动平均(SMA),展示了数据处理的具体方法。Python代码借助`pandas`库轻松计算5日SMA,而C++代码则通过高效的数据处理展示了SMA的计算过程。集思录平台提供了详尽且及时的可转债数据,助力投资者结合算法与社区讨论,做出更明智的投资决策。掌握这些工具和技术,有助于在复杂多变的金融市场中挖掘更多价值。
22 12
|
1月前
|
数据采集 Web App开发 数据可视化
Python用代理IP获取抖音电商达人主播数据
在当今数字化时代,电商直播成为重要的销售模式,抖音电商汇聚了众多达人主播。了解这些主播的数据对于品牌和商家至关重要。然而,直接从平台获取数据并非易事。本文介绍如何使用Python和代理IP高效抓取抖音电商达人主播的关键数据,包括主播昵称、ID、直播间链接、观看人数、点赞数和商品列表等。通过环境准备、代码实战及数据处理与可视化,最终实现定时任务自动化抓取,为企业决策提供有力支持。
|
2月前
|
数据采集 Web App开发 监控
Python爬虫:爱奇艺榜单数据的实时监控
Python爬虫:爱奇艺榜单数据的实时监控
|
2月前
|
数据采集 分布式计算 大数据
构建高效的数据管道:使用Python进行ETL任务
在数据驱动的世界中,高效地处理和移动数据是至关重要的。本文将引导你通过一个实际的Python ETL(提取、转换、加载)项目,从概念到实现。我们将探索如何设计一个灵活且可扩展的数据管道,确保数据的准确性和完整性。无论你是数据工程师、分析师还是任何对数据处理感兴趣的人,这篇文章都将成为你工具箱中的宝贵资源。
|
2月前
|
数据采集 存储 XML
python实战——使用代理IP批量获取手机类电商数据
本文介绍了如何使用代理IP批量获取华为荣耀Magic7 Pro手机在电商网站的商品数据,包括名称、价格、销量和用户评价等。通过Python实现自动化采集,并存储到本地文件中。使用青果网络的代理IP服务,可以提高数据采集的安全性和效率,确保数据的多样性和准确性。文中详细描述了准备工作、API鉴权、代理授权及获取接口的过程,并提供了代码示例,帮助读者快速上手。手机数据来源为京东(item.jd.com),代理IP资源来自青果网络(qg.net)。
|
3月前
|
传感器 物联网 开发者
使用Python读取串行设备的温度数据
本文介绍了如何使用Python通过串行接口(如UART、RS-232或RS-485)读取温度传感器的数据。详细步骤包括硬件连接、安装`pyserial`库、配置串行端口、发送请求及解析响应等。适合嵌入式系统和物联网应用开发者参考。
92 3
|
4月前
|
数据采集 JSON 数据处理
抓取和分析JSON数据:使用Python构建数据处理管道
在大数据时代,电商网站如亚马逊、京东等成为数据采集的重要来源。本文介绍如何使用Python结合代理IP、多线程等技术,高效、隐秘地抓取并处理电商网站的JSON数据。通过爬虫代理服务,模拟真实用户行为,提升抓取效率和稳定性。示例代码展示了如何抓取亚马逊商品信息并进行解析。
抓取和分析JSON数据:使用Python构建数据处理管道
|
4月前
|
数据处理 Python
Python实用记录(十):获取excel数据并通过列表的形式保存为txt文档、xlsx文档、csv文档
这篇文章介绍了如何使用Python读取Excel文件中的数据,处理后将其保存为txt、xlsx和csv格式的文件。
268 3
Python实用记录(十):获取excel数据并通过列表的形式保存为txt文档、xlsx文档、csv文档

热门文章

最新文章

推荐镜像

更多