基于Python实现时间序列分析建模(ARIMA模型)项目实战

本文涉及的产品
交互式建模 PAI-DSW,每月250计算时 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
模型训练 PAI-DLC,5000CU*H 3个月
简介: 基于Python实现时间序列分析建模(ARIMA模型)项目实战

说明:这是一个机器学习实战项目(附带数据+代码+文档+视频讲解),如需数据+代码+文档+视频讲解可以直接到文章最后获取。

image.png

image.png

1.项目背景

当今世界正处于一个数据信息时代,随着后续互联网的发展各行各业都会产生越来越多的数据,包括不限于商店、超市、便利店、餐厅等等那么这里面很多数据都是随着时间产生的,这就形成了时间序列数据,而且很多时间序列数据都是非平稳时间序列数据。目前对非平稳时间序列分析应用最多的模型就是ARIMA模型,本项目也是通过Python程序来进行数据探索性分析、数据预处理、构建ARIMA时序模型以及如何把模型预测的结果应用于日常的实际生活当中。

2.数据获取

本次建模数据来源于公司餐厅销售数据,其主要的数据基本统计概况如下:

数据项:2项(日期、销量),如下图所示

image.png

通过观察数据,发现一些空值和一些重复数据,后续章节进行处理。

3.数据预处理

真实数据中可能包含了大量的缺失值和噪音数据或人工录入错误导致有异常点存在,非常不利于算法模型的训练。数据清洗的结果是对各种脏数据进行对应方式的处理,得到标准的、干净的、连续的数据,提供给数据统计、数据挖掘等使用。数据预处理通常包含数据清洗、归约、聚合、转换、抽样等方式,数据预处理质量决定了后续数据分析挖掘及建模工作的精度和泛化价值。

3.1数据描述性统计与清洗 

(1)导入程序库:将所用到的程序库导入到Python程序中,如图所示。

image.png

(2)读取数据:使用Pandas库中read_excel方法读取Excel数据,并转为DataFrame类型。读取数据代码如图所示

image.png

(3)查看统计信息和空值,代码如下:

image.png

image.png

从上图可以看到,数据总数据量40条(不包括空值),以及未去除重复值的平均值、标准差、最小值、最大值、分位数。另外可以看到销量有2条空值。

(4)查看是否有重复数据以及清理重复数据,代码如下

image.png

image.png

从上图中的部分展示,可以看到是有重复数据,所以使用drop_duplicates()函数进行了重复数据清理。

(5)空值清理,本项目涉及2条空值数据 直接进行丢弃操作。空值的处理也可以用均值填充、分位数填充、拉格朗日插值填充等等(根据具体数据处理的需要进行即可)。代码如下:

image.png

(6)针对清洗后的数据进行统计分析,代码如下:

image.png

image.png

从上图可以看出,清洗后数据量为37条,平均值为3542.49、标准差为543.92

4.探索性数据分析

4.1数据分析

销量时间序列分析

image.png

关键代码如下:

image.png

 

5.构建ARIMA时序模型

5.1 ARIMA模型概念

在自然界中绝大部分序列都是非平稳的。因而非平稳时间序列的分析更普遍、更重要,创造出来的分析方法也更多。

非平稳时间序列的分析方法可以分为确定性因素分解的时序分析和随机时序分析两大类。

确定性因素分解的方法把所有序列的变化都归结为4个因素(长期趋势、季节变动、循环变动和随机波动)的综合影响,其中长期趋势和季节变动的规律性信息通常比较容易提取,而由随机因素导致的波动则非常难以确定和分析,对随机信息浪费严重会导致模型拟合精度不够理想。

随机时序分析法的发展就是为了弥补确定性因素分解方法的不足。根据时间序列的不同特点,随机时序分析可以建立的模型有ARIMA模型、残差自回归模型、季节模型、异方差模型等。

本项目重点介绍ARIMA模型对非平稳时间序列进行建模。

差分运算

(1) p阶差分

相距一期的两个序列值之间的减法运算称为1阶差分运算。

(2) k步差分

相距k期的两个序列值之间的减法运算称为k步差分运算。

差分运算具有强大的确定性信息提取能力,许多非平稳序列差分后会显示出平稳序列的性质,这时称这个非平稳序列为差分平稳序列。差分平稳序列可以使用ARMA模型进行拟合。ARIMA模型的实质就是差分运算与ARMA模型的组合。

5.2序列平稳性检验

image.png

图5.2-1 原始序列的时序图

此图显示该序列具有明显的单调递增趋势,可以判断为非平稳序列

image.png

图5.2-1 原始序列的自相关图

此图的自相关图显示自相关系数长期大于零,说明序列间具有很强的长期相关性

5.2-1 原始序列的单位根检验

adf

cValue

p值

1%

5%

10%

1.8138

-3.7112

-2.9812

-2.6301

0.9985

此表单位根检验统计量对应的p值显著大于0.05,最终将该序列判断为非平稳序列(非平稳序列一定不是白噪声序列)。 

5.3对原始序列进行一阶差分,并进行平稳性和白噪声检验

1)对一阶差分后的序列再次做平稳性判断。

image.png

5.3-1 一阶差分之后序列的时序图

image.png

5.3-2 一阶差分之后序列的自相关图

5.3-1 一阶差分之后序列的单位根检验

adf

cValue

p值

1%

5%

10%

-3.1561

-3.6327

-2.9485

-2.6130

0 0.0227

结果显示,一阶差分之后序列的时序图在均值附近比较平稳地波动、自相关图有很强的短期相关性、单位根检验p值小于0.05,所以一阶差分之后的序列是平稳序列。 

2)对一阶差分后的序列做白噪声检验

5.3-2 一阶差分之后序列的白噪声检验

stat

p值

11.3040

0.0007734

此表输出的p值远小于0.05,所以一阶差分之后的序列是平稳非白噪声序列。 

5.4对一阶差分后的序列拟合ARMA模型

下面进行模型定阶。模型定阶就是确定p和q。

第一种方法:人为识别,根据图5-25进行模型定阶。

image.png

图5.4-1 一阶差分后序列的偏自相关图

一阶差分后自相关图显示出1阶截尾,偏自相关图显示出拖尾性,所以可以考虑用MA(1)模型拟合1阶差分后的序列,即对原始序列建立ARIMA(0,1,1)模型。

第二种方法:相对最优模型识别。

计算ARMA(p,q) 当p和q均小于等于3的所有组合的BIC信息量,取其中BIC信息量达到最小的模型阶数。

计算完成BIC矩阵如下:

image.png

p值为0、q值为1时,最小BIC值为422.510082。p、q定阶完成。

AR(1)模型拟合一阶差分后的序列,即对原始序列建立ARIMA(0,1,1)模型。虽然两种方法建立的模型是一样的,但模型是非唯一的。ARIMA(1,1,0)和ARIMA(1,1,1)这两个模型也能通过检验。下面对一阶差分后的序列拟合AR(1)模型进行分析:

 

1) 参数检验和参数估计见表:

5.4-1 模型参数

Parameter

Coef.

Std.Err.

t

const

49.9561

20.1390

2.4806

ma.L1.D.销量

0.6710

0.1648

4.0712

 

2) 模型检验之残差检验: 

 

image.png

图5.4-2 残差自相关图

image.png

图5.4-3 残差偏自相关图

image.png

图5.4-4 残差偏自相关图

 

D-W检验

DW值显著的接近于0或4时,则存在自相关性,而接近于2时,则不存在(一阶)自相关性。

D-W检验的结果为:1.9735。因此,模型预测的残差不存在自相关性性,这说明拟合的模型预测效果很好。

残差序列的白噪声检验结果为:(array([0.00390439]), array([0.95017654])),可以看出p值为0.9502 P>0.05.说明原假设成立

5.5 ARIMA模型预测

应用ARIMA(0,1,1)对表某餐厅的销售数据做为期5天的预测,结果如下表所示

5.5-1 预测未来5天的销售额

 

2021/2/7

2021/2/8

2021/2/9

2021/2/10

2021/2/11

预测值

4874

4924

4974

5024

5074

预测误差

73.0857

142.3268

187.5428

223.8028

254.9571

需要说明的是,利用模型向前预测的时期越长,预测误差将会越大,这是时间预测的典型特点。

6.实际应用

通过上面的预测结果分析得到,此模型能够在误差允许的范围内进行预测未来的销量,可以将此模型应用于实际生产中,帮助企业更好地备货。

# 本次机器学习项目实战所需的资料,项目资源如下:
 
# 项目说明:
 
# 获取方式一:
 
# 项目实战合集导航:
 
https://docs.qq.com/sheet/DTVd0Y2NNQUlWcmd6?tab=BB08J2
 
# 获取方式二:
 
链接:https://pan.baidu.com/s/1fZoXTaJt1efesViuJTf4Kw 
提取码:tmf9
相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
17天前
|
数据采集 缓存 定位技术
网络延迟对Python爬虫速度的影响分析
网络延迟对Python爬虫速度的影响分析
|
19天前
|
数据采集 存储 JSON
Python爬虫开发中的分析与方案制定
Python爬虫开发中的分析与方案制定
|
26天前
|
数据可视化 开发者 Python
Python GUI开发:Tkinter与PyQt的实战应用与对比分析
【10月更文挑战第26天】本文介绍了Python中两种常用的GUI工具包——Tkinter和PyQt。Tkinter内置于Python标准库,适合初学者快速上手,提供基本的GUI组件和方法。PyQt基于Qt库,功能强大且灵活,适用于创建复杂的GUI应用程序。通过实战示例和对比分析,帮助开发者选择合适的工具包以满足项目需求。
83 7
|
25天前
|
存储 数据处理 Python
Python科学计算:NumPy与SciPy的高效数据处理与分析
【10月更文挑战第27天】在科学计算和数据分析领域,Python凭借简洁的语法和强大的库支持广受欢迎。NumPy和SciPy作为Python科学计算的两大基石,提供了高效的数据处理和分析工具。NumPy的核心功能是N维数组对象(ndarray),支持高效的大型数据集操作;SciPy则在此基础上提供了线性代数、信号处理、优化和统计分析等多种科学计算工具。结合使用NumPy和SciPy,可以显著提升数据处理和分析的效率,使Python成为科学计算和数据分析的首选语言。
31 3
|
26天前
|
存储 机器学习/深度学习 算法
Python科学计算:NumPy与SciPy的高效数据处理与分析
【10月更文挑战第26天】NumPy和SciPy是Python科学计算领域的两大核心库。NumPy提供高效的多维数组对象和丰富的数学函数,而SciPy则在此基础上提供了更多高级的科学计算功能,如数值积分、优化和统计等。两者结合使Python在科学计算中具有极高的效率和广泛的应用。
43 2
|
7天前
|
存储 数据挖掘 开发者
Python编程入门:从零到英雄
在这篇文章中,我们将一起踏上Python编程的奇幻之旅。无论你是编程新手,还是希望拓展技能的开发者,本教程都将为你提供一条清晰的道路,引导你从基础语法走向实际应用。通过精心设计的代码示例和练习,你将学会如何用Python解决实际问题,并准备好迎接更复杂的编程挑战。让我们一起探索这个强大的语言,开启你的编程生涯吧!
|
13天前
|
机器学习/深度学习 人工智能 TensorFlow
人工智能浪潮下的自我修养:从Python编程入门到深度学习实践
【10月更文挑战第39天】本文旨在为初学者提供一条清晰的道路,从Python基础语法的掌握到深度学习领域的探索。我们将通过简明扼要的语言和实际代码示例,引导读者逐步构建起对人工智能技术的理解和应用能力。文章不仅涵盖Python编程的基础,还将深入探讨深度学习的核心概念、工具和实战技巧,帮助读者在AI的浪潮中找到自己的位置。
|
13天前
|
机器学习/深度学习 数据挖掘 Python
Python编程入门——从零开始构建你的第一个程序
【10月更文挑战第39天】本文将带你走进Python的世界,通过简单易懂的语言和实际的代码示例,让你快速掌握Python的基础语法。无论你是编程新手还是想学习新语言的老手,这篇文章都能为你提供有价值的信息。我们将从变量、数据类型、控制结构等基本概念入手,逐步过渡到函数、模块等高级特性,最后通过一个综合示例来巩固所学知识。让我们一起开启Python编程之旅吧!
|
13天前
|
存储 Python
Python编程入门:打造你的第一个程序
【10月更文挑战第39天】在数字时代的浪潮中,掌握编程技能如同掌握了一门新时代的语言。本文将引导你步入Python编程的奇妙世界,从零基础出发,一步步构建你的第一个程序。我们将探索编程的基本概念,通过简单示例理解变量、数据类型和控制结构,最终实现一个简单的猜数字游戏。这不仅是一段代码的旅程,更是逻辑思维和问题解决能力的锻炼之旅。准备好了吗?让我们开始吧!
|
4天前
|
数据采集 存储 数据处理
Python中的多线程编程及其在数据处理中的应用
本文深入探讨了Python中多线程编程的概念、原理和实现方法,并详细介绍了其在数据处理领域的应用。通过对比单线程与多线程的性能差异,展示了多线程编程在提升程序运行效率方面的显著优势。文章还提供了实际案例,帮助读者更好地理解和掌握多线程编程技术。
下一篇
无影云桌面