【优秀python数据分析案例】基于python的中国天气网数据采集与可视化分析的设计与实现

简介: 本文介绍了一个基于Python的中国天气网数据采集与可视化分析系统,通过requests和BeautifulSoup库实现数据爬取,利用matplotlib、numpy和pandas进行数据可视化,提供了温湿度变化曲线、空气质量图、风向雷达图等分析结果,有效预测和展示了未来天气信息。

概要

天气预报我们每天都会关注,我们可以根据未来的天气增减衣物、安排出行,每天的气温、风速风向、相对湿度、空气质量等成为关注的焦点。本次使用python中requests和BeautifulSoup库对中国天气网当天和未来14天的数据进行爬取,保存为csv文件,之后用matplotlib、numpy、pandas对数据进行可视化处理和分析,得到温湿度度变化曲线、空气质量图、风向雷达图等结果,为获得未来天气信息提供了有效方法。

1、数据获取

1.1请求网站链接

首先查看中国天气网的网址:http://www.weather.com.cn/weather/101280701.shtml 这里就访问本地的天气网址,如果想爬取不同的地区只需修改最后的101280701地区编号即可,前面的weather代表是7天的网页,weather1d代表当天,weather15d代表未来14天。这里就主要访问7天和14天的中国天气网。采用requests.get()方法,请求网页,如果成功访问,则得到的是网页的所有字符串文本。这就是请求过程。

def getHTMLtext(url):       
 """请求获得网页内容"""  
 try:           
  r = requests.get(url, timeout = 30)           
  r.raise_for_status()           
  r.encoding = r.apparent_encoding           
  print("成功访问")           
  return r.text       
 except:           
  print("访问错误")           
  return" "

提取有用信息

这里采用BeautifulSoup库对刚刚获取的字符串进行数据提取,首先对网页进行检查,找到需要获取数据的标签:

可以发现7天的数据信息在div标签中并且id=“7d”,并且日期、天气、温度、风级等信息都在ul和li标签中,所以我们可以使用BeautifulSoup对获取的网页文本进行查找div标签id=“7d”,找出他包含的所有的ul和li标签,之后提取标签中相应的数据值,保存到对应列表中。

这里要注意一个细节就是有时日期没有最高气温,对于没有数据的情况要进行判断和处理。另外对于一些数据保存的格式也要提前进行处理,比如温度后面的摄氏度符号,日期数字的提取,和风级文字的提取,这需要用到字符查找及字符串切片处理。

def get_content(html):  
"""处理得到有用信息保存数据文件"""  
final = []          # 初始化一个列表保存数据  
bs = BeautifulSoup(html, "html.parser")  # 创建BeautifulSoup对象  
body = bs.body  
data = body.find('div', {'id': '7d'})   # 找到div标签且id = 7d

下面爬取当天的数据

data2 = body.find_all('div',{'class':'left-div'})  
text = data2[2].find('script').string   
text = text[text.index('=')+1 :-2]   # 移除改var data=将其变为json数据  
jd = json.loads(text)  
dayone = jd['od']['od2']     # 找到当天的数据  
final_day = []           # 存放当天的数据  
count = 0  
for i in dayone:  
temp = []  
if count <=23:  
temp.append(i['od21'])     # 添加时间 
temp.append(i['od22'])     # 添加当前时刻温度  
temp.append(i['od24'])     # 添加当前时刻风力方向  
temp.append(i['od25'])     # 添加当前时刻风级 
temp.append(i['od26'])     # 添加当前时刻降水量  
temp.append(i['od27'])     # 添加当前时刻相对湿度  
temp.append(i['od28'])     # 添加当前时刻控制质量  
#print(temp)  
final_day.append(temp)  
count = count +1

下面爬取7天的数据

ul = data.find('ul')      # 找到所有的ul标签  
li = ul.find_all('li')      # 找到左右的li标签  
i = 0     # 控制爬取的天数  
for day in li:          # 遍历找到的每一个li  
if i < 7 and i > 0:  
temp = []          # 临时存放每天的数据  
date = day.find('h1').string     # 得到日期  
date = date[0:date.index('日')]   # 取出日期号  
temp.append(date)      

inf = day.find_all('p')      # 找出li下面的p标签,提取第一个p标签的值,即天气  
temp.append(inf[0].string)  


    tem_low = inf[1].find('i').string   # 找到最低气温  

    if inf[1].find('span') is None:   # 天气预报可能没有最高气温  
        tem_high = None  
    else:  
        tem_high = inf[1].find('span').string  # 找到最高气温  
    temp.append(tem_low[:-1])  
    if tem_high[-1] == '℃':  
     temp.append(tem_high[:-1])  
    else:  
     temp.append(tem_high)  
    wind = inf[2].find_all('span')  # 找到风向  
    for j in wind:  
     temp.append(j['title'])  
    wind_scale = inf[2].find('i').string # 找到风级  
    index1 = wind_scale.index('级')  
    temp.append(int(wind_scale[index1-1:index1]))  
    final.append(temp)  
i = i + 1  

return final_day,final

同样对于/weather15d:15天的信息,也做同样的处理,这里经过查看后发现他的15天网页中只有8-14天,前面的1-7天在/weather中,这里就分别访问两个网页将爬取得到的数据进行合并得到最终14天的数据。- 前面是未来14天的数据爬取过程,对于当天24小时的天气信息数据,经过查找发现他是一个json数据,可以通过json.loads()

方法获取当天的数据,进而对当天的天气信息进行提取。

1.2 保存csv文件

前面将爬取的数据添加到列表中,这里引入csv库,利用f_csv.writerow(header)和f_csv.writerows(data)方法,分别写入表头和每一行的数据,这里将1天和未来14天的数据分开存储,分别保存为weather1.csv和weather14.csv,下面是他们保存的表格图:

2. 可视化分析

2.1 当天温度变化曲线图

采用matplotlib中plt.plot()方法绘制出一天24小时的温度变化曲线,并用plt.text()方法点出最高温和最低温,并画出平均温度线,下图为温度变化曲线图:(代码见附录)

分析可以发现这一天最高温度为20℃,最低温度为13℃,并且平均温度在15.8℃左右,通过对时间分析,发现昼夜温差7℃,低温分布在凌晨,高温分布在中午到下午的时间段。

2.2 当天相对湿度变化曲线图

采用matplotlib中plt.plot()方法绘制出一天24小时的湿度变化曲线,并画出平均相对湿度线,下图为湿度变化曲线图:(代码见附录)

分析可以发现这一天最高相对湿度为69%,最低相对湿度为29℃,并且平均相对湿度在46%左右,通过对时间分析,清晨的湿度比较大,而下午至黄昏湿度较小。

2.3 温湿度相关性分析图

经过前面两个图的分析我们可以感觉到温度和湿度之间是有关系的,为了更加清楚直观地感受这种关系,使用plt.scatter()方法将温度为横坐标、湿度为纵坐标,每个时刻的点在图中点出来,并且计算相关系数,下图为结果图:

分析可以发现一天的温度和湿度具有强烈的相关性,他们呈负相关,这就说明他们时间是负相关关系,并且进一步分析,当温度较低时,空气中水分含量较多,湿度自然较高,而温度较高时,水分蒸发,空气就比较干 燥,湿度较低,符合平时气候现象。

2.4 空气质量指数柱状图

空气质量指数AQI是定量描述空气质量状况的指数,其数值越大说明空气污染状况越重,对人体健康的危害也就越大。一般将空气质量指数分为6个等级,等级越高说明污染越严重,下面使用plt.bar方法对一天24小时的空气质量进行了柱状图绘制,并且根据6个等级的不同,相应的柱状图的颜色也从浅到深,也表明污染逐步加重,更直观的显示污染情况,并且也将最高和最低的空气质量指数标出,用虚线画出平均的空气质量指数,下图是绘制结果图:

上面这张是南方珠海的控制质量图,可以看出空气质量指数最大也是在健康范围,说明珠海空气非常好,分析可以发现这一天最高空气质量指数达到了57,最低则只有35,并且平均在485左右,通过时间也可以发现,基本在清晨的时候是空气最好的时候(6-15点),在下午是空气污染最严重的时候,所以早上一般可以去外面呼吸新鲜的空气,那时污染最小。

而下面这个空气质量图是选取的北方的一个城市,可以看到这里的环境远远比不上珠海。

风向风级雷达图

统计一天的风力和风向,由于风力风向使用极坐标的方式展现较好,所以这里采用的是极坐标的方式展现一天的风力风向图,将圆分为8份,每一份代表一个风向,半径代表平均风力,并且随着风级增高,蓝色加深,最后结果如下所示:

分析可以发现这一天东北风最多,平均风级达到了1.75级,西南风也有小部分1.0级,其余空白方向无来风。

2.5 未来14天高低温变化曲线图

统计未来14天的高低温度变化,并绘制出他们的变化曲线图,分别用虚线将他们的平均气温线绘制出来,最后结果如下所示:

分析可以发现未来14天高温平均气温为17.5℃,温度还是比较适中,但是未来的第3天有降温,需要做好降温准备,低温前面处于平稳趋势,等到第3天开始下降,伴随着高温也下降,整体温度下降,低温平均在12℃左右。

2.6 未来14天风向风级雷达图

统计未来14天的风向和平均风力,并和前面一样采用极坐标形式,将圆周分为8个部分,代表8个方向,颜色越深代表风级越高,最后结果如下所示:

分析可以发现未来14天西北风、东北风所占主要风向,风级最高达到了5级,最低的平均风级也有3级。

2.7 未来14天气候分布饼图

统计未来14天的气候,并求每个气候的总天数,最后将各个气候的饼图绘制出来,结果如下所示:

分析可以发现未来14天气候基本是“多云”、“晴转多云”和“晴”,多云的天数较多,结合前面的气温分布图可以看出在第3天气温高温下降,可以推测当天晴转阴,导致气温下降。

3、结论

1.首先根据爬取的温湿度数据进行的分析,温度从早上低到中午高再到晚上低,湿度和温度的趋势相反,通过相关系数发现温度和湿度有强烈的负相关关系,经查阅资料发现因为随着温度升高水蒸汽蒸发加剧,空气中水分降低湿度降低。当然,湿度同时受气压和雨水的影响,下雨湿度会明显增高。

2.经查阅资料空气质量不仅跟工厂、汽车等排放的烟气、废气等有关,更为重要的是与气象因素有关。由于昼夜温差明显变化,当地面温度高于高空温度时,空气上升,污染物易被带到高空扩散;当地面温度低于一定高度的温度时,天空形成逆温层,它像一个大盖子一样压在地面上空,使地表空气中各种污染物不易扩散。一般在晚间和清晨影响较大,而当太阳出来后,地面迅速升温,逆温层就会逐渐消散,于是污染空气也就扩散了。

3.风是由气压在水平方向分布的不均匀导致的。风受大气环流、地形、水域等不同因素的综合影响,表现形式多种多样,如季风、地方性的海陆风、山谷风等,一天的风向也有不同的变化,根据未来14天的风向雷达图可以发现未来所有风向基本都有涉及,并且没有特别的某个风向,原因可能是近期没有降水和气文变化不大,导致风向也没有太大的变化规律。

4.天气是指某一个地区距离地表较近的大气层在短时间内的具体状态。跟某瞬时内大气中各种气象要素分布的综合表现。根据未来14天的天气和温度变化可以大致推断出某个时间的气候,天气和温度之间也是有联系的。

4、代码框架

代码主要分为weather.py:对中国天气网进行爬取天气数据并保存csv文件;data1_analysis.py:对当天的天气信息进行可视化处理;data14_analysis.py:对未来14天的天气信息进行可视化处理。下面是代码的结构图:

相关文章
|
1月前
|
机器学习/深度学习 数据可视化 数据挖掘
使用Python进行数据分析的入门指南
本文将引导读者了解如何使用Python进行数据分析,从安装必要的库到执行基础的数据操作和可视化。通过本文的学习,你将能够开始自己的数据分析之旅,并掌握如何利用Python来揭示数据背后的故事。
|
17天前
|
机器学习/深度学习 数据采集 DataWorks
数据分析经典案例重现:使用DataWorks Notebook 实现Kaggle竞赛之房价预测,成为数据分析大神!
Python是目前当之无愧的数据分析第一语言,大量的数据科学家使用Python来完成各种各样的数据科学任务。本文以Kaggle竞赛中的房价预测为例,结合DataWorks Notebook,完成数据加载、数据探索、数据可视化、数据清洗、特征分析、特征处理、机器学习、回归预测等步骤,主要Python工具是Pandas和SKLearn。本文中仅仅使用了线性回归这一最基本的机器学习模型,读者可以自行尝试其他更加复杂模型,比如随机森林、支持向量机、XGBoost等。
|
2月前
|
存储 数据可视化 数据挖掘
使用Python进行数据分析和可视化
本文将引导你理解如何使用Python进行数据分析和可视化。我们将从基础的数据结构开始,逐步深入到数据处理和分析的方法,最后通过实际的代码示例来展示如何创建直观的数据可视化。无论你是初学者还是有经验的开发者,这篇文章都将为你提供有价值的见解和技巧。让我们一起探索数据的世界,发现隐藏在数字背后的故事!
|
2月前
|
存储 数据可视化 数据挖掘
Python数据分析项目:抖音短视频达人粉丝增长趋势
Python数据分析项目:抖音短视频达人粉丝增长趋势
|
2月前
|
数据采集 存储 数据可视化
Python数据分析:揭秘"黑神话:悟空"Steam用户评论趋势
Python数据分析:揭秘"黑神话:悟空"Steam用户评论趋势
|
1月前
|
人工智能 数据可视化 数据挖掘
探索Python编程:从基础到高级
在这篇文章中,我们将一起深入探索Python编程的世界。无论你是初学者还是有经验的程序员,都可以从中获得新的知识和技能。我们将从Python的基础语法开始,然后逐步过渡到更复杂的主题,如面向对象编程、异常处理和模块使用。最后,我们将通过一些实际的代码示例,来展示如何应用这些知识解决实际问题。让我们一起开启Python编程的旅程吧!
|
1月前
|
存储 数据采集 人工智能
Python编程入门:从零基础到实战应用
本文是一篇面向初学者的Python编程教程,旨在帮助读者从零开始学习Python编程语言。文章首先介绍了Python的基本概念和特点,然后通过一个简单的例子展示了如何编写Python代码。接下来,文章详细介绍了Python的数据类型、变量、运算符、控制结构、函数等基本语法知识。最后,文章通过一个实战项目——制作一个简单的计算器程序,帮助读者巩固所学知识并提高编程技能。
|
22天前
|
Unix Linux 程序员
[oeasy]python053_学编程为什么从hello_world_开始
视频介绍了“Hello World”程序的由来及其在编程中的重要性。从贝尔实验室诞生的Unix系统和C语言说起,讲述了“Hello World”作为经典示例的起源和流传过程。文章还探讨了C语言对其他编程语言的影响,以及它在系统编程中的地位。最后总结了“Hello World”、print、小括号和双引号等编程概念的来源。
106 80
|
2月前
|
存储 索引 Python
Python编程数据结构的深入理解
深入理解 Python 中的数据结构是提高编程能力的重要途径。通过合理选择和使用数据结构,可以提高程序的效率和质量
157 59
|
11天前
|
Python
[oeasy]python055_python编程_容易出现的问题_函数名的重新赋值_print_int
本文介绍了Python编程中容易出现的问题,特别是函数名、类名和模块名的重新赋值。通过具体示例展示了将内建函数(如`print`、`int`、`max`)或模块名(如`os`)重新赋值为其他类型后,会导致原有功能失效。例如,将`print`赋值为整数后,无法再用其输出内容;将`int`赋值为整数后,无法再进行类型转换。重新赋值后,这些名称失去了原有的功能,可能导致程序错误。总结指出,已有的函数名、类名和模块名不适合覆盖赋新值,否则会失去原有功能。如果需要使用类似的变量名,建议采用其他命名方式以避免冲突。
33 14
下一篇
开通oss服务