Python新冠疫情案例_02处理疫情数据中的异常以及丢失的数据

简介: Python新冠疫情案例_02处理疫情数据中的异常以及丢失的数据
import seaborn as sns
import numpy as np
import pandas as pd
import matplotlib as mpl
import matplotlib.pyplot as plt
%matplotlib inline
plt.rcParams['font.sans-serif']=['Microsoft YaHei'] # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus']=False # 用来正常显示负号
from datetime import datetime
plt.figure(figsize=(16,10))
import pyecharts.options as opts
from pyecharts.charts import Line
from pyecharts.faker import Faker
from pyecharts.charts import Bar
import os
from pyecharts.options.global_options import ThemeType

读取整理好的数据:

alldfgbcountrysum=pd.read_csv("alldfgbcountrysum.csv",encoding='utf-8-sig')

将时间转换成datetime64[ns]

alldfgbcountrysum['Date']=pd.to_datetime(alldfgbcountrysum['Date']).dt.normalize()

绘制初始图像:

alldfgbcountrysum[['Confirmed','Date']].set_index(['Date']).plot(figsize=(20,12)) 

60ecbdcc64d44a8c9d283ee9a347a850.png46e769b350904a5d880ee2889621d7fc.png

解决异常数据以及数据丢失的问题

allDate=alldfgbcountrysum.copy()
allDate=allDate.groupby(['Date'])['Confirmed','Deaths','Recovered'].sum()
#对每天所有的确诊人数,死亡人数,治愈人数进行汇总求和
allDate=allDate.reset_index().replace()
allDate

5f8499d3611c47ccb282b8318e4218cc.png

数据当中日期的第一天:2020-2-24

数据当中日期的最后一天:2022-3-12


分析:

由于数据当中日期的第一天是:2020-2-24,从2020-2-25开始循环。24号是前一天,25号是当天,26号是后一天。

前一天确诊人数:bedata 当天确诊人数:data 后一天确诊人数:afdata


只要前一天的数据比当天的小,就说明是正常的,反之则异常,就进入循环。


异常数据当中的凸起部分:放大观察发现,异常数据是由两部分凸起组成,且第一小段的凸起大于第二小段。每小段凸起都是由一段数据构成的,在每小段凸起当中,数据仍然是增长的。

d4a8613240ef4463a49d9b27db7f28f9.png


  1. strftime()函数:如果已经有了datetime对象,要把它格式化为字符串显示给用户,就需要转换为str,转换方法是通过strftime()实现。
  2. Timestamp:时间戳,指1970年01月01日00时00分00秒起至现在的总秒数。
  3. datetime.timedelta对象代表两个时间之间的时间差,两个date或datetime对象相减就可以返回一个timedelta对象。如果有人问你昨天是几号,这个很容易就回答出来了。但是如果问你200天前是几号,则使用Python中datetime模块中的timedelta可以给出答案。
  4. datetime.date: 表示日期的类
  5. datetime.date():来比较两个日期(天数),这样可以截断datetime,使其具有天数而不是小时的分辨率。
  6. drop:使用drop删除表中的某一行或者某一列,它不改变原有的df中的数据,而是返回另一个dataframe来存放删除后的数据。
import datetime
start=datetime.date(2020,2,25) 
last=datetime.date(2022,3,12)
datalist=[] # 用来存放异常数据
for i in range((last-start).days+1):
    day=start+datetime.timedelta(days=i)# 类似一个计数器,随着循环不断增加天数。
    # 前一天
    bedata=allDate[allDate['Date']==pd.Timestamp(str(day+datetime.timedelta(days=-1)))]['Confirmed'].sum()
    # 当天
    data=allDate[allDate['Date']==pd.Timestamp(str(day))]['Confirmed'].sum()
    # 后一天
#     afdata=allDate[allDate['Date']==pd.Timestamp(str(day+datetime.timedelta(days=1)))]['Confirmed'].sum()
    # 判断数据是否异常
    if(bedata>data):# 第一次进入这个条件判断是在第一个凸起与第二个凸起交界处,因为第二个凸起比第一个凸起小
        if(bedata/2<data) & (bedata>data): # 凸出来的部分,向前找异常数据
            j=-1     
            while allDate[allDate['Date']==pd.Timestamp(str(day+datetime.timedelta(days=j)))]['Confirmed'].sum()>data:
# 此时前一天的数据大于当天的数据,进入while循环。循环的作用:找出从哪天开始,数据比当天的数据要小,则从那天开始数据就是正常的,而之间的数据就都是异常数据,把异常数据保存在datalist列表里面。
                datalist.append(str(day+datetime.timedelta(days=j))) # 把异常数据变成字符串类型并且保持到列表              
                j-=1.               
        else: #进入else说明这部分异常数据是下凹的数据,向后找异常数据
            m=0 
            print(day+datetime.timedelta(days=-1))# 打印
            while bedata>allDate[allDate['Date']==pd.Timestamp(str(day+datetime.timedelta(days=m)))]['Confirmed'].sum():
                datalist.append(str(day+datetime.timedelta(days=m)))
                m+=1 
print(datalist)
allDate['Date']=allDate['Date'].apply(lambda x:x.strftime('%Y-%m-%d')) # 将Date中的数据都变成字符串类型
for i in allDate['Date']:
    if str(i) in datalist:
        print(i)
        allDate.drop(index=allDate[allDate['Date']==i].index[0],inplace=True) # 将原始数据当中包含有datalist元素的都删除

得到的结果(也就是找到的异常数据):

2021-12-14
['2021-06-13', '2021-06-12', '2021-06-24', '2021-07-09', '2021-07-08', '2021-07-07', '2021-07-06', '2021-07-05', '2021-07-04', '2021-07-03', '2021-07-02', '2021-07-01', '2021-06-30', '2021-06-29', '2021-06-28', '2021-06-27', '2021-09-05', '2021-12-15', '2022-01-22', '2022-02-09', '2022-02-16', '2022-02-15', '2022-03-01', '2022-02-28', '2022-02-27', '2022-03-07', '2022-03-10']
2021-06-12
2021-06-13
2021-06-24
2021-06-27
2021-06-28
2021-06-29
2021-06-30
2021-07-01
2021-07-02
2021-07-03
2021-07-04
2021-07-05
2021-07-06
2021-07-07
2021-07-08
2021-07-09
2021-09-05
2021-12-15
2022-01-22
2022-02-09
2022-02-15
2022-02-16
2022-02-27
2022-02-28
2022-03-01
2022-03-07
2022-03-10
allDate=allDate.sort_values(by='Date')
import os
from pyecharts import options as opts
from pyecharts.charts import Bar
from pyecharts.options.global_options import ThemeType
attrmax=allDate['Date']
v1=allDate['Confirmed']
bar=(Bar(
            init_opts=opts.InitOpts(bg_color='rgba(255,250,200,0.2)',
                                   width='1500px',
                                   height='800px',
                                   page_title='疫情数据',
                                   theme=ThemeType.ROMA
            )
        )
     .add_xaxis(attrmax.to_list())
     .add_yaxis("人数",v1.to_list(),stack='stack1')
     .set_global_opts(title_opts=opts.TitleOpts(title="世界疫情数据"),
                     xaxis_opts=opts.AxisOpts(name='日期',axislabel_opts={"rotate":50}),
                     yaxis_opts=opts.AxisOpts(name='确诊人数:人'))
     .set_series_opts(label_opts=opts.LabelOpts(is_show=False))
     )
bar.render_notebook()
55ae89644d3e4ba7a1bc87f5dd013879.png


相关文章
|
17天前
|
数据采集 数据可视化 数据挖掘
利用Python自动化处理Excel数据:从基础到进阶####
本文旨在为读者提供一个全面的指南,通过Python编程语言实现Excel数据的自动化处理。无论你是初学者还是有经验的开发者,本文都将帮助你掌握Pandas和openpyxl这两个强大的库,从而提升数据处理的效率和准确性。我们将从环境设置开始,逐步深入到数据读取、清洗、分析和可视化等各个环节,最终实现一个实际的自动化项目案例。 ####
|
15天前
|
数据采集 分布式计算 大数据
构建高效的数据管道:使用Python进行ETL任务
在数据驱动的世界中,高效地处理和移动数据是至关重要的。本文将引导你通过一个实际的Python ETL(提取、转换、加载)项目,从概念到实现。我们将探索如何设计一个灵活且可扩展的数据管道,确保数据的准确性和完整性。无论你是数据工程师、分析师还是任何对数据处理感兴趣的人,这篇文章都将成为你工具箱中的宝贵资源。
|
28天前
|
传感器 物联网 开发者
使用Python读取串行设备的温度数据
本文介绍了如何使用Python通过串行接口(如UART、RS-232或RS-485)读取温度传感器的数据。详细步骤包括硬件连接、安装`pyserial`库、配置串行端口、发送请求及解析响应等。适合嵌入式系统和物联网应用开发者参考。
45 3
|
28天前
|
数据采集 JavaScript 程序员
探索CSDN博客数据:使用Python爬虫技术
本文介绍了如何利用Python的requests和pyquery库爬取CSDN博客数据,包括环境准备、代码解析及注意事项,适合初学者学习。
73 0
|
29天前
|
数据采集 存储 分布式计算
超酷炫Python技术:交通数据的多维度分析
超酷炫Python技术:交通数据的多维度分析
|
15天前
|
人工智能 数据可视化 数据挖掘
探索Python编程:从基础到高级
在这篇文章中,我们将一起深入探索Python编程的世界。无论你是初学者还是有经验的程序员,都可以从中获得新的知识和技能。我们将从Python的基础语法开始,然后逐步过渡到更复杂的主题,如面向对象编程、异常处理和模块使用。最后,我们将通过一些实际的代码示例,来展示如何应用这些知识解决实际问题。让我们一起开启Python编程的旅程吧!
|
14天前
|
存储 数据采集 人工智能
Python编程入门:从零基础到实战应用
本文是一篇面向初学者的Python编程教程,旨在帮助读者从零开始学习Python编程语言。文章首先介绍了Python的基本概念和特点,然后通过一个简单的例子展示了如何编写Python代码。接下来,文章详细介绍了Python的数据类型、变量、运算符、控制结构、函数等基本语法知识。最后,文章通过一个实战项目——制作一个简单的计算器程序,帮助读者巩固所学知识并提高编程技能。
|
2天前
|
Unix Linux 程序员
[oeasy]python053_学编程为什么从hello_world_开始
视频介绍了“Hello World”程序的由来及其在编程中的重要性。从贝尔实验室诞生的Unix系统和C语言说起,讲述了“Hello World”作为经典示例的起源和流传过程。文章还探讨了C语言对其他编程语言的影响,以及它在系统编程中的地位。最后总结了“Hello World”、print、小括号和双引号等编程概念的来源。
96 80
|
20天前
|
存储 索引 Python
Python编程数据结构的深入理解
深入理解 Python 中的数据结构是提高编程能力的重要途径。通过合理选择和使用数据结构,可以提高程序的效率和质量
133 59
|
14天前
|
小程序 开发者 Python
探索Python编程:从基础到实战
本文将引导你走进Python编程的世界,从基础语法开始,逐步深入到实战项目。我们将一起探讨如何在编程中发挥创意,解决问题,并分享一些实用的技巧和心得。无论你是编程新手还是有一定经验的开发者,这篇文章都将为你提供有价值的参考。让我们一起开启Python编程的探索之旅吧!
40 10