Pandas处理时间序列数据的20个关键知识点

简介: Pandas处理时间序列数据的20个关键知识点

640.png

时间序列数据有许多定义,它们以不同的方式表示相同的含义。一个简单的定义是时间序列数据包括附加到顺序时间点的数据点。

时间序列数据的来源是周期性的测量或观测。许多行业都存在时间序列数据。举几个例子:

  • 一段时间内的股票价格
  • 每天,每周,每月的销售额
  • 流程中的周期性度量
  • 一段时间内的电力或天然气消耗率

在这篇文章中,我将列出20个要点,帮助你全面理解如何用Pandas处理时间序列数据。

1.不同形式的时间序列数据

时间序列数据可以是特定日期、持续时间或固定的自定义间隔的形式。

640.png

时间戳可以是给定日期的一天或一秒,具体取决于精度。例如,' 2020-01-01 14:59:30 '是基于秒的时间戳。

2.时间序列数据结构

Pandas提供灵活和高效的数据结构来处理各种时间序列数据。

640.png

除了这3个结构之外,Pandas还支持日期偏移概念,这是一个与日历算法相关的相对时间持续时间。

3.创建一个时间戳

最基本的时间序列数据结构是时间戳,可以使用to_datetimeTimestamp函数创建

importpandasaspdpd.to_datetime('2020-9-13')
Timestamp('2020-09-13 00:00:00')pd.Timestamp('2020-9-13')
Timestamp('2020-09-13 00:00:00')

4.访问按时间戳保存的信息

我们可以获得存储在时间戳中的关于日、月和年的信息。

a=pd.Timestamp('2020-9-13')a.day_name()
'Sunday'a.month_name()
'September'a.day13a.month9a.year2020

5. 隐藏信息访问

时间戳对象还保存有关日期算法的信息。例如,我们可以问这一年是不是闰年。以下是我们可以获得的一些更具体的信息:

b=pd.Timestamp('2020-9-30')b.is_month_endTrueb.is_leap_yearTrueb.is_quarter_startFalseb.weekofyear40

6. 欧洲风格的日期

我们可以使用to_datetime函数处理欧洲风格的日期(即日期在先)。dayfirst参数被设置为True。

pd.to_datetime('10-9-2020', dayfirst=True)
Timestamp('2020-09-10 00:00:00')pd.to_datetime('10-9-2020')
Timestamp('2020-10-09 00:00:00')
注意:如果第一项大于12,Pandas会知道它不能是月。pd.to_datetime('13-9-2020')
Timestamp('2020-09-13 00:00:00')

7. 将数据格式转换为时间序列数据

to_datetime函数可以将具有适当列的数据名称转换为时间序列。考虑以下数据格式:

640.png

pd.to_datetime(df)02020-04-1312020-05-1622019-04-11dtype: datetime64[ns]

7.时间戳之外的时间表示

在现实生活中,我们几乎总是使用连续的时间序列数据,而不是单独的日期。而且,Pandas处理顺序时间序列数据非常简单。

我们可以将日期列表传递给to_datetime函数。

pd.to_datetime(['2020-09-13', '2020-08-12', '2020-08-04', '2020-09-05'])
DatetimeIndex(['2020-09-13', '2020-08-12', '2020-08-04', '2020-09-05'], dtype='datetime64[ns]', freq=None)

返回的对象是一个DatetimeIndex。

还有一些更实用的方法来创造一系列的时间数据。

9. 用to_datetime和to_timedelta创建时间序列

可以通过将TimedeltaIndex添加到时间戳中来创建DatetimeIndex。

pd.to_datetime('10-9-2020') +pd.to_timedelta(np.arange(5), 'D')

640.png

“D”用来表示“day”,但是也有很多其他的选择。

10. date_range函数

它提供了一种更灵活的创建DatetimeIndex的方法。

pd.date_range(start='2020-01-10', periods=10, freq='M')

640.png

参数的作用是:指定索引中的项数。freq 是频率,“M”表示一个月的最后一天。

就freq参数而言,date_range非常灵活。

pd.date_range(start='2020-01-10', periods=10, freq='6D')

640.png

我们创建了一个频率为6天的数据。

11. period_range函数

它返回一个PeriodIndex。语法类似于date_range函数。

pd.period_range('2018', periods=10, freq='M')

640.png

12. timedelta_range函数

它返回一个TimedeltaIndex。

pd.timedelta_range(start='0', periods=24, freq='H')

640.png

13.时区

默认情况下,Panda的时间序列对象没有指定的时区。

dates=pd.date_range('2019-01-01','2019-01-10')
dates.tzisNoneTrue

我们可以使用tz_localize方法为这些对象分配时区。

dates_lcz=dates.tz_localize('Europe/Berlin')
dates_lcz.tz<DstTzInfo'Europe/Berlin'LMT+0:53:00STD>

14. 创建一个具有指定时区的时间序列

我们还可以使用tz关键字参数创建带有时区的时间序列对象。

pd.date_range('2020-01-01', periods=5, freq='D', tz='US/Eastern')

640.png

15. 偏移量

假设我们有一个时间序列索引,并且想为所有的日期偏移一个特定的时间。

A=pd.date_range('2020-01-01', periods=10, freq='D')
A

640.png

让我们给这个数据加上一周的偏移。

A+pd.offsets.Week()

640.png

16. 移动时间序列数据

时间序列数据分析可能需要移数据点进行比较。移位函数可以移位数据。

A.shift(10, freq='M')

640.png

17. Shift vs tshift

  • 移动:移动数据
  • tshift:移动时间索引

让我们创建一个带有时间序列索引的dataframe,并绘制它以查看shift和tshift之间的区别。

dates=pd.date_range('2020-03-01', periods=30, freq='D')
values=np.random.randint(10, size=30)
df=pd.DataFrame({'values':values}, index=dates)df.head()

640.png

让我们把原始的时间序列和移位的时间序列一起画出来。

importmatplotlib.pyplotaspltfig, axs=plt.subplots(nrows=3, figsize=(10,6), sharey=True)
plt.tight_layout(pad=4)
df.plot(ax=axs[0], legend=None)
df.shift(10).plot(ax=axs[1], legend=None)
df.tshift(10).plot(ax=axs[2], legend=None)

640.png

18. 用取样函数重新采样

时间序列数据的另一个常见操作是重采样。根据任务的不同,我们可能需要以更高或更低的频率重新采样数据。

Resample创建指定内部的组(或容器),并允许您对组进行合并。

让我们创建一个包含30个值和一个时间序列索引的Panda系列。

A=pd.date_range('2020-01-01', periods=30, freq='D')
values=np.random.randint(10, size=30)
S=pd.Series(values, index=A)

以下将返回3天时间内的平均值。

S.resample('3D').mean()

640.png

在某些情况下,我们可能对特定频率的值感兴趣。函数返回指定间隔结束时的值。例如,在上一步创建的系列中,我们可能只需要每3天(而不是平均3天)一次的值。

S.asfreq('3D')

640.png

20.滚动

滚动对于时间序列数据是一种非常有用的操作。滚动意味着创建一个具有指定大小的滚动窗口,并对该窗口中的数据执行计算,当然,该窗口将滚动数据。下图解释了滚动的概念。

640.png

值得注意的是,计算开始时整个窗口都在数据中。换句话说,如果窗口的大小为3,那么第一次合并将在第三行进行。

让我们为我们的数据应用一个3天的滚动窗口。

S.rolling(3).mean()[:10]

640.png

结论

我们已经全面介绍了用Pandas进行时间序列分析。值得注意的是,Pandas提供了更多的时间序列分析。

感谢您的阅读。如果你有任何反馈,请告诉我。

目录
相关文章
|
21天前
|
数据处理 Python
如何使用Python的Pandas库进行数据排序和排名
【4月更文挑战第22天】Pandas Python库提供数据排序和排名功能。使用`sort_values()`按列进行升序或降序排序,如`df.sort_values(by=&#39;A&#39;, ascending=False)`。`rank()`函数用于计算排名,如`df[&#39;A&#39;].rank(ascending=False)`。多列操作可传入列名列表,如`df.sort_values(by=[&#39;A&#39;, &#39;B&#39;], ascending=[True, False])`和分别对&#39;A&#39;、&#39;B&#39;列排名。
24 2
|
21天前
|
存储 Python
使用Pandas库对非数值型数据进行排序和排名
在Pandas中,支持对非数值型数据排序和排名。可按以下方法操作:1) 字符串排序,使用`sort_values()`,如`sorted_df = df.sort_values(by=&#39;Name&#39;, ascending=False)`进行降序排序;2) 日期排序,先用`to_datetime()`转换,再排序,如`sorted_df = df.sort_values(by=&#39;Date&#39;)`;3) 自定义排序,结合`argsort()`和自定义规则。
27 2
|
17天前
|
数据采集 数据处理 索引
如何使用 Pandas 删除 DataFrame 中的非数字类型数据?
如何使用 Pandas 删除 DataFrame 中的非数字类型数据?
27 3
|
18天前
|
存储 数据挖掘 数据处理
使用pandas高效读取筛选csv数据
本文介绍了使用Python的Pandas库读取和处理CSV文件。首先,确保安装了Pandas,然后通过`pd.read_csv()`函数读取CSV,可自定义分隔符、列名、索引等。使用`head()`查看数据前几行,`info()`获取基本信息。Pandas为数据分析提供强大支持,是数据科学家的常用工具。
23 0
|
20天前
|
数据挖掘 数据处理 索引
如何使用Python的Pandas库进行数据筛选和过滤?
Pandas是Python数据分析的核心库,提供DataFrame数据结构。基本步骤包括导入库、创建DataFrame及进行数据筛选。示例代码展示了如何通过布尔索引、`query()`和`loc[]`方法筛选`Age`大于19的记录。
21 0
|
20天前
|
索引 Python
如何使用Pandas进行数据合并?
Pandas提供`merge()`, `join()`, `concat()`等方法进行数据合并。基本步骤包括导入pandas库、创建或加载DataFrame,然后调用这些方法合并数据。示例中展示了如何使用`merge()`和`join()`:创建两个DataFrame `df1`和`df2`,通过`merge()`基于索引合并,以及`join()`进行外连接合并。
21 0
|
22天前
|
Python
如何使用Python的Pandas库进行数据缺失值处理?
Pandas在Python中提供多种处理缺失值的方法:1) 使用`isnull()`检查;2) `dropna()`删除含缺失值的行或列;3) `fillna()`用常数、前后值填充;4) `interpolate()`进行插值填充。根据需求选择合适的方法处理数据缺失。
45 9
|
24天前
|
索引 Python
如何使用Python的Pandas库进行数据透视表(pivot table)操作?
使用Pandas在Python中创建数据透视表的步骤包括:安装Pandas库,导入它,创建或读取数据(如DataFrame),使用`pd.pivot_table()`指定数据框、行索引、列索引和值,计算聚合函数(如平均分),并可打印或保存结果到文件。这允许对数据进行高效汇总和分析。
11 2
|
26天前
|
数据挖掘 数据处理 索引
Pandas时间序列处理:时间数据的魅力
【4月更文挑战第16天】Pandas是Python中用于数据处理的库,特别适合时间序列数据操作。它提供`date_range`和`Timestamp`创建时间序列索引,支持以时间为DataFrame和Series的索引。Pandas的`resample`方法允许重采样和频率转换,如日数据转周数据。`rolling`方法用于移动窗口操作,如计算移动平均值。此外,还能进行日期偏移和时区转换,如`shift`和`tz_convert`。通过这些功能,Pandas帮助分析时间序列中的趋势和模式,提升数据分析效率。
|
26天前
|
数据挖掘 数据处理 索引
数据合并与连接:Pandas中的强大数据整合功能
【4月更文挑战第16天】Pandas是Python数据分析的库,提供数据合并与连接功能。本文聚焦于`merge`和`concat`函数。`merge`基于键合并DataFrame,如示例中`df1`和`df2`按&#39;key&#39;列合并,支持多种连接方式。`concat`则沿轴堆叠DataFrame,如`df3`和`df4`沿行连接。注意合并连接时键的一致性、选择合适连接方式及处理索引和数据结构,以确保数据准确一致。学习这些方法能有效整合多数据源,便于分析。