一文速学-Pandas处理时间序列数据操作详解

简介: 一文速学-Pandas处理时间序列数据操作详解

前言


一般从数据库或者是从日志文件读出的数据均带有时间序列,做时序数据处理或者实时分析都需要对其时间序列进行归类归档。而Pandas是处理这些数据很好用的工具包。此篇博客基于Jupyter之上进行演示,本篇博客的愿景是希望我或者读者通过阅读这篇博客能够学会方法并能实际运用。希望读者看完能够提出问题或者看法,博主会长期维护博客做及时更新。纯分享,希望大家喜欢。


一、获取时间


python自带datetime库,通过调用此库可以获取本地时间


1. from datetime import datetime
2. datetime.now()


12657cff9a1646cfb55050c4a19a3699.png

同时也可以独立获取年月日:


1. datetime.now().day
2. datetime.now().year
3. datetime.now().moth


isoweekday()获取符合ISO标准的指定日期所在的星期数:


datetime.now().isoweekday()


1e0696db46914a3983c1c897e9d9116e.png 为星期二。

但也有weekeday()方法但是是从0开始,也就是说0也就是周一,需要加一转为周数:


datetime.now().weekday()+1



datetime可以将日期(date)和时间(time)分隔开:


datetime.now().date()


2b0e3fda28464f25b9ed184305397b2b.png


datetime.now().time()

cdf1c335c68346649cd8ff8a2fcd7d29.png


也可以用timetuple()函数将整个时间拆分为结构体:


datetime.now().timetuple()


f07c78c230db4819a3c0a7f4d7ec842e.png


要转换为自定义熟悉的时间表达可以使用strftime()函数,其输出代码格式有以下几种:


image.png


atetime.now().strftime('%Y-%m-%d')


4aad601c75f945b78d224b50708cebf6.png


datetime.now().strftime('%m/%d/%Y %H:%M:%S')


a234004fe20a45b68176cad63b37275c.png

二、时间索引


时间索引是根据数据的时间来处理时序数据进行归档筛选的一种索引方式。

4906b0bf77c74d1ca6757a6f908bfd65.png


展示数据


首先查看类型是否为 datetime类型,是该类型再重新设定索引,否则需要先把索引时间列转换为datetime类型再进行设定。


df1.set_index('first_order_time')


若要查找2019年的数据,只需要在 后面加上日期即可:


df1['2019']


91c9b42e09e5439584e59a1a9928dcd4.png


想要获取详细的日期的数据只需要在[]里面输入对应的日期即可:


df1['2019-05-13']

b6df93946ddd46a5a3d2c59d28db1e96.png


获取区间日期数据:


df1['2019-05-01':'2019-05-13']


faf75f2a06a64b03991d854b6f4cf21e.png


三、时间推移


如果时序数据提取出来时间并不符合对应时间戳,则可以使用timedelta进行推移时间:


timedelta类表示为时间差,可直接实例化也可以由两个datetime进行相减操作得到。

3b5ef521b1444d43acdc0012237f7f34.png


可表示的时间差依次为:

days,seconds,microseconds,minutes,hours,weeks

如我们要推移一天时间:


1. date = datetime(2019,5,10)
2. date+timedelta(days = 1)


f83540f4d7bf44d9aa18960b62418160.png


往后推移只需要减去对应天数就好了。

比起timedelta,有date offset可以直接进行时间推移,并不需要换算,效率比timedelta要快很多。

引入库:

from pandas.tseries.offsets import Day,Hour,Minute
date+Day(1)


计算结果为timestamp:

496ab3b1153f4262bb7e427b31774853.png

目录
相关文章
|
4天前
|
数据采集 数据可视化 数据处理
Pandas高级数据处理:数据仪表板制作
《Pandas高级数据处理:数据仪表板制作》涵盖数据清洗、聚合、时间序列处理等技巧,解决常见错误如KeyError和内存溢出。通过多源数据整合、动态数据透视及可视化准备,结合性能优化与最佳实践,助你构建响应快速、数据精准的商业级数据仪表板。适合希望提升数据分析能力的开发者。
57 31
|
5天前
|
数据采集 并行计算 数据可视化
Pandas高级数据处理:数据报告生成实战指南
数据报告生成面临数据质量、计算性能、呈现形式和自动化等核心挑战。常见问题包括缺失值导致统计失真、内存溢出及可视化困难。解决方案涵盖数据清洗、分块处理、安全绘图模板等。通过模块化设计、异常处理机制和性能优化策略,如使用`category`类型、并行计算等,可大幅提升效率。最佳实践建议建立数据质量检查清单、版本控制和自动化测试框架,确保系统具备自适应能力,提升报告生成效率300%以上。
38 12
|
11天前
|
监控 物联网 数据处理
Pandas高级数据处理:数据流式计算
本文介绍了如何使用 Pandas 进行流式数据处理。流式计算能够实时处理不断流入的数据,适用于金融交易、物联网监控等场景。Pandas 虽然主要用于批处理,但通过分块读取文件、增量更新 DataFrame 和使用生成器等方式,也能实现简单的流式计算。文章还详细讨论了内存溢出、数据类型不一致、数据丢失或重复及性能瓶颈等常见问题的解决方案,并建议在处理大规模数据时使用专门的流式计算框架。
138 100
Pandas高级数据处理:数据流式计算
|
28天前
|
机器学习/深度学习 搜索推荐 数据挖掘
Pandas数据应用:广告效果评估
在数字化营销中,广告效果评估至关重要。Pandas作为Python的强大数据分析库,在处理广告数据时表现出色。本文介绍如何使用Pandas进行广告效果评估,涵盖数据读取、预览、缺失值处理、数据类型转换及常见报错解决方法,并通过代码案例详细解释。掌握这些技能,可为深入分析广告效果打下坚实基础。
41 17
|
29天前
|
数据采集 供应链 数据可视化
Pandas数据应用:供应链优化
在当今全球化的商业环境中,供应链管理日益复杂。Pandas作为Python的强大数据分析库,能有效处理库存、物流和生产计划中的大量数据。本文介绍如何用Pandas优化供应链,涵盖数据导入、清洗、类型转换、分析与可视化,并探讨常见问题及解决方案,帮助读者在供应链项目中更加得心应手。
50 21
|
30天前
|
数据采集 存储 供应链
Pandas数据应用:库存管理
本文介绍Pandas在库存管理中的应用,涵盖数据读取、清洗、查询及常见报错的解决方法。通过具体代码示例,讲解如何处理多样数据来源、格式不一致、缺失值和重复数据等问题,并解决KeyError、ValueError等常见错误,帮助提高库存管理效率和准确性。
106 72
|
1月前
|
机器学习/深度学习 数据采集 供应链
Pandas数据应用:销售预测
本文介绍如何使用Pandas进行销售预测。首先,通过获取、清洗和可视化历史销售数据,确保数据质量并理解其特征。接着,进行特征工程,构建线性回归等模型进行预测,并评估模型性能。最后,针对常见问题如数据类型不匹配、时间格式错误、内存不足和模型过拟合提供解决方案。掌握这些步骤,可有效提升销售预测的准确性,助力企业优化库存管理和提高客户满意度。
55 17
|
1月前
|
机器学习/深度学习 存储 算法
Pandas数据应用:客户流失预测
本文介绍如何使用Pandas进行客户流失预测,涵盖数据加载、预处理、特征工程和模型训练。通过解决常见问题(如文件路径错误、编码问题、列名不一致等),确保数据分析顺利进行。特征工程中创建新特征并转换数据类型,为模型训练做准备。最后,划分训练集与测试集,选择合适的机器学习算法构建模型,并讨论数据不平衡等问题的解决方案。掌握这些技巧有助于有效应对实际工作中的复杂情况。
142 95
|
1月前
|
数据采集 存储 算法
Pandas数据应用:市场篮子分析
市场篮子分析是一种用于发现商品间关联关系的数据挖掘技术,广泛应用于零售业。Pandas作为强大的数据分析库,在此领域具有显著优势。本文介绍了市场篮子分析的基础概念,如事务、项集、支持度、置信度和提升度,并探讨了数据预处理、算法选择、参数设置及结果解释中的常见问题与解决方案,帮助用户更好地进行市场篮子分析,为企业决策提供支持。
70 29
|
1月前
|
机器学习/深度学习 BI 定位技术
Pandas数据应用:用户细分
用户细分是数据分析和商业智能中的关键步骤,通过将用户群体划分为不同子集,企业可以更精准地了解用户需求并制定营销策略。Pandas 是 Python 中常用的数据处理库,支持高效的数据操作。使用 Pandas 进行用户细分包括数据准备、清洗、特征工程、细分和结果分析等步骤。常见问题如数据类型不一致、内存不足等可通过相应方法解决。Pandas 简化了用户细分流程,帮助获取有价值的洞察。
59 24