空气质量预报二次建模 2 方案设计附实现代码

简介: 该文详细分析了2021年数学建模国赛B题“空气质量预报二次建模”。首先,通过赛后总结提出了解决方案。针对问题一,使用Matlab代码实现;问题二涉及数据预处理,采用KNN插值填充缺失值,并通过Python实现。特征选择上,选择了与AQI关联度高的特征进行聚类分析。聚类算法选择了K-means和minibatchKMeans,并分析了气象特征。问题三中,设计并实现了基于LSTM的多变量时间序列预测模型,用于预测A、B、C三点的空气质量。问题四未详细展开。代码及更多细节可见GitHub。

1 赛题的详细分析(必看)
【数学建模国赛】2021 B题:空气质量预报二次建模 1 赛后总结与分析

2 方案的设计
2.1 问题一
Matlab 代码实现,见github

2.2 问题二
(1)数据预处理

缺失值的统计和异常值的统计,并用knn最邻近均值插值进行填充。算法步骤如下。也考虑过线性插值,但是线性插值,需要依靠左右相邻的元素来进行计算,但是数据存在大量的连续缺失值,就不适用了。具体代码实现见github 插值填充

2.png

python实现算法如下,完整实现,转到python 实现插值

def knn_mean(ts, n):
out = np.copy(ts)
for i, val in enumerate(ts):
if np.isnan(val):
n_by_2 = np.ceil(n/2)
lower = np.max([0, int(i-n_by_2)])
upper = np.min([len(ts)+1, int(i+n_by_2)])
ts_near = np.concatenate([ts[lower:i], ts[i:upper]])
out[i] = np.nanmean(ts_near)
return out
for indexs in data_1_actual_knn.columns:
if indexs =='time':
continue
data_1_actual_knn[indexs] = knn_mean(data_1_actual_knn[indexs].values,8)
for indexs in data_1_predict_knn.columns:
if indexs =='time':
continue
data_1_predict_knn[indexs] = knn_mean(data_1_predict_knn[indexs].values,8)
(2)特征的选择

在前面说过,分析过选择了每种污染物浓度的IAQI作为聚类算法的特征。为了再验证一遍,可以先计算法一下各个污染物浓度、各个气象条件与AQI关联度,选择关联度较高的作为聚类的特征。

(3)聚类算法

聚类需要初始化一个K值,K值的选择是一个超参数。根据查阅资料,中国的气象天气大致分为6类,那我们的K值就选择了3、4、5、6作为相互对比。评价聚类效果的标准采用Calinski-Harabas得分。下图中,得分越高代表聚类效果越佳。聚类算法就很多了,比如我都尝试过minibatchKmeans、Kmeans3D、Kmeans、DBSCAN、AgglomerativeClustering、Birch。但效果都不如Kmeans和minibatchKmeans。最终就选择了这两种算法,聚类的效果差不多,K值最终选择是3。具体实现,查看代码github 聚类算法实现

from sklearn.cluster import KMeans,MiniBatchKMeans,DBSCAN,AgglomerativeClustering,Birch
import matplotlib.pyplot as plt
def P_Kmeans(X,k,p=False):
if p==True:
for index, kk in enumerate((3,4,5,6)):
plt.subplot(2,2,index+1)
y_pred = KMeans(n_clusters=kk).fit_predict(X)
score= metrics.calinski_harabasz_score(X, y_pred)
plt.scatter(X[:, 0], X[:, 1], c=y_pred)
plt.text(.99, .01, ('k=%d, score: %.2f' % (kk,score)),
transform=plt.gca().transAxes, size=10,
horizontalalignment='right')
plt.show()
3.png

K-means 算法聚类效果
//代码效果参考:http://www.ningluan.com/sitemap/post.xml
(3)气象特征分析

对于题目中文的分析最终分类的气象条件特征,其实就是对分类的每一种类别进行污染物浓度、温度、湿度、气压、风速、风向等特征分析。比如下图中,纵坐标是AQI,第一类的气象条件、第二类的气象条件、第三类的气象条件的AQI等级都不一样。每种气象条件对应的空气指数都不一样,第一类,指数最高,第三类,指数最低,这种气象条件带来的空气质量最好。

4.jpeg

气象分类与AQI的关系可视化

再比如如下图,气象类别与温度的关系,还是有细微的差别的,第一类的气温偏高,第二类的气温温差大,第三类的温差较小,温度居中。这些都是这些气象条件的特征,此外还有湿度、气压、风向、风速等其他特征,不在这一一陈述。

5.jpeg

气象类别与温度的关系可视化

如果想问如何做出的上面两个这种聚类结果与特征的关系图,其实就是取每一种聚类的结果的下标,用不同的颜色绘制散点。MATLAB实现

2.3 问题三
LSTM 多变量时间序列实现空气质量预测-python代码实现

(1)模型的选择

已经明确了这是一个多变量的时间序列预测问题。为什么是多变量,是因为需要同时要将多个特征作为模型的输入,而不是想简单的单个特征时间序列的预测,就只有一个输入和输出。比如销售量的预测,根据历年销售量就可以预测出,下个时间的销售量。在此题中,需要考虑6种污染物浓度、15种气象条件。这些特征之间并不是相互独立的,而是相关联的,只能一起输入模型中。时间序列的预测模型有很多,比如传统时序建模方法的ARMA/ARIMA等线性模型、利用时间特征做线性回归模型、时间序列分解模型、xgboost/LSTM模型/时间卷积神经网络模型等。

(2)LSTM模型的设计

题目要求,是用一个通用的数学模型是来分别预报A、B、C点的数据。此处只分析检测点A,其他两个点,同样的原理。数据预测的目的未来三天7月13至7月15号的数据。提供的数据有三个,A点每小时预报数据(25W条,最后采集时间是7月12号,有21列属性)、A点每个小时实测数据(19W条,最后采集时间12号,有11列属性)、A点每天实测数据(819条,最后采集时间是7月12号,有6列属性)。此处应该建立三个LSTM神经网络,每个网络输入是前三天的数据,输出是后三天的数据,输入大小时每个数据中所有属性列,输出大小和输入大小相同。比如“A点每小时的实测数据”中有11列,分别是SO2、NO2、PM10、PM2.5、O3、CO、温度、湿度、气压、风速、风向。则对应网络模型的输入输出大小是11。而其他两个文件的属性列分别是21和6,对应的模型输入输出大小也应该是21和6。在LSTM中需要设定预测的步长和预测的时间长短。对于所有数据,我选择的时间步长是6天,预测的天数是3,意思是用前3天数据预测后3天的数据,如果设定为6和2 的话,就是用前4天的数据预测后2天的数据。注意,有两个数据的采集单位是小时,那时间步长和预测天数相应是144小时和72小时。

6.jpeg

A点的每小时预报模型数据拟合效果

(3)模型的训练和预测

监测点A就需要用三个数据训练模型。每小时的数据,模型输出是72小时的72条数据,需要合并成三天3条的数据,其中合并过程是除了O3外,全是取算术平均,而O3用8小时滑动平均合并。三个模型的输出再取平均,得到最终的三天预报数据。A点的每小时预报数据,拟合效果如下。三个检测点,总共需要训练9个模型。

7.png

(4)模型检验与实现

时间序列 模型检验主要由RMSE、MAE、MAPE、R、IA。相应是计算方法如下

8.png

2.4 问题四
略。。

相关文章
|
7月前
|
传感器 数据可视化
振弦采集仪在岩土工程土体力学参数监测中的精度与可靠性评估
振弦采集仪在岩土工程土体力学参数监测中的精度与可靠性评估
振弦采集仪在岩土工程土体力学参数监测中的精度与可靠性评估
|
7月前
|
数据采集 数据可视化 算法
非线性回归nls探索分析河流阶段性流量数据和评级曲线、流量预测可视化
非线性回归nls探索分析河流阶段性流量数据和评级曲线、流量预测可视化
|
7月前
|
安全 数据处理
振弦采集仪在岩土工程应力分析中的应用及效果评估
振弦采集仪在岩土工程应力分析中的应用及效果评估 河北稳控科技振弦采集仪是一种常用于岩土工程中的应力分析工具。它通过测量岩土体中的应变波动情况,间接地推测出岩土体中的应力状态。振弦采集仪的应用能够提供岩土体中的应力分布情况,对于岩土体的工程设计和施工具有重要的指导作用。
振弦采集仪在岩土工程应力分析中的应用及效果评估
|
7月前
|
数据采集 数据挖掘
振弦采集仪通过分析这些数据来评估地基的稳定性和土体的力学特性
振弦采集仪是一种常用的岩土工程测试仪器,用于测量地基或土体的动力特性。它通过固定在地面或岩土体上的振弦杆的振动来获取数据,并通过分析这些数据来评估地基的稳定性和土体的力学特性。
振弦采集仪通过分析这些数据来评估地基的稳定性和土体的力学特性
|
7月前
GEE案例——一个完整的火灾监测案例dNBR差异化归一化烧毁指数
GEE案例——一个完整的火灾监测案例dNBR差异化归一化烧毁指数
190 0
|
2月前
|
存储 编解码 算法
微帧科技:综合多项指标评价视频质量,才能更接近主观感受
视频质量评价指标如PSNR、SSIM和VMAF是衡量画面质量的重要工具,但不应成为视频工作者的唯一目标。微帧致力于优化画质,提升观看体验,强调综合评估指标,以实现最接近人眼主观感受的效果。本文探讨了PSNR avg.MSE与PSNR avg.log的区别,以及VMAF的优势与不足。
|
7月前
|
传感器 数据采集
振弦采集仪在岩土工程变形监测中的实用性研究与结果分析
振弦采集仪在岩土工程变形监测中的实用性研究与结果分析 振弦采集仪是一种用于岩土工程变形监测的仪器设备。它采用振弦原理,通过测量振弦的振动频率和幅度来判断岩土体的变形情况。本文基于振弦采集仪在岩土工程变形监测中的实际应用,研究其实用性,并对实测结果进行分析。
振弦采集仪在岩土工程变形监测中的实用性研究与结果分析
|
4月前
|
机器学习/深度学习 数据采集 算法
【2021 数学建模国赛】B题:空气质量预报二次建模 1 赛后总结与分析
对2021年数学建模国赛B题“空气质量预报二次建模”的赛后总结与分析,涵盖了题目要求、解题思路、数据处理方法以及作者在比赛过程中遇到的挑战和反思。
72 0
【2021 数学建模国赛】B题:空气质量预报二次建模 1 赛后总结与分析
|
4月前
|
机器学习/深度学习 数据采集 算法
【2021 数学建模“华为杯”】B题:空气质量预报二次建模 2 方案设计附实现代码
2021年数学建模“华为杯”B题的方案设计和实现代码,包括数据预处理、特征选择、聚类算法、气象特征分析以及使用LSTM神经网络进行多变量时间序列预测以实现空气质量预报。
125 0
|
7月前
|
数据采集 数据挖掘
多维因素与学生辍学风险预测附录
多维因素与学生辍学风险预测附录

热门文章

最新文章