ERA5逐时、逐日、逐月气象数据的手动下载与Python代码批量下载方法

简介: ERA5逐时、逐日、逐月气象数据的手动下载与Python代码批量下载方法

  本文介绍在ERA5气象数据的官方网站中,手动下载、Python代码自动批量下载逐小时逐日逐月ERA5气象数据各类产品的快捷方法。

  ERA5(fifth generation ECMWF atmospheric reanalysis of the global climate)是由欧洲中期天气预报中心(European Centre for Medium-Range Weather Forecasts,ECMWF)开发和维护的一种全球范围内的高分辨率大气再分析数据集,提供了多种气象和气候变量的连续、一致和高质量的数据。ERA5基于全球观测数据、数值模型和物理参数化方案,通过数据同化和数值模拟的技术,对过去数十年(1940年至今)的天气状况进行再构建和模拟,从而生成了高时空分辨率的大气和地表变量数据。ERA5提供了广泛的气象和气候变量,包括温度、湿度、风速、降水、云量、地表辐射、地表温度等。这些数据以固定的时间间隔(逐小时逐月)和空间分辨率(从数公里到数十公里)提供,可以用于气候研究、天气分析、气候模型验证、环境监测等众多应用领域。

  我们可以通过ERA5官方网站,或者在谷歌地球引擎等平台中,下载这一气象数据。由于在谷歌地球引擎中下载这一数据相对而言比较麻烦,而且速度也并不算友好,我们这里就主要介绍一下基于其官方网站,通过手动下载Python代码下载2种方式,下载不同ERA5数据产品的方法。

  首先,需要明确,我们一般常用的ERA5数据产品包括ERA5https://cds.climate.copernicus.eu/cdsapp#!/dataset/reanalysis-era5-single-levels?tab=overview)和ERA5-Landhttps://cds.climate.copernicus.eu/cdsapp#!/dataset/reanalysis-era5-land?tab=overview)等2种;其中,前者ERA5包含全球全部区域,而后者ERA5-Land仅包含全球的陆地区域,但是后者的空间分辨率(最高是0.1 °)要高于前者(最高位0.25 °)。其次,在ERA5的官方网站,无论是上述的ERA5数据,还是ERA5-Land数据,我们通过手动下载或者代码下载的方式,都只能直接下载到逐小时逐月的气象数据;如果需要逐日的数据,大家可以在其官方网站提供的逐日统计数据计算工具https://cds.climate.copernicus.eu/cdsapp#!/software/app-c3s-daily-era5-statistics?tab=app)中加以自动计算后手动下载,或者是在GEE中下载,再或者就是先下载逐小时的数据,然后自行撰写代码批量计算逐日或者其他时间分辨率的数据。当然,也还有一种用Python代码批量下载逐日数据的方法,但是那个方法的速度受到网络情况影响,我发现还不如我手动下载来得快,所以这里就没有介绍;之后如果用到这个代码了,就再和大家介绍一下。

0 准备工作

  需要注意,只要不是选择用上述逐日统计数据计算工具来下载数据,那么无论我们选择手动下载数据,还是用Python代码批量下载数据,都需要进行本部分的操作。

  首先,我们找到需要下载的数据首页,如下图所示。

  其次,如果我们没有登陆的话,需要在上图右上角所示的位置登录或者注册一下账号。如下图所示,我这里就新注册一个账号。

  完成注册后,需要在我们注册时填写的邮箱中激活一下账号,如下图所示。

  随后,登录账号即可;如下图所示。

  接下来,我们回到刚刚的数据首页中,选择“Download data”选项;如下图所示。随后,选择当前数据产品对应的产品类型,一般情况下,我们选择第一个,也就是“Reanalysis”选项就可以。

  随后,选择我们需要的气象数据指标;可以在“Popular”这一栏选择用户常用的热门指标,也可以自己依据需要在下面的类别中搜索。如下图所示。

  接下来,选择我们需要的年份和日期、时刻。这里需要注意,对于不同的ERA5产品,其能一次性下载的数量也是不同的;如下图所示,我这张图下载的是ERA5数据,它就可以一次性选择多年多月的数据;但是后面我下载ERA5-Land数据,发现就不能多选年份和月份了,也就是说一次性只能下载一年中一个月的数据。这个可能是由于,ERA5-Land数据的空间分辨率比较高,数据量更大,导致官方限制了ERA5-Land数据的一次性下载的限额。

  随后,选择我们要下载的数据的空间覆盖范围,并选择下载的数据格式(建议选择NetCDF格式)如下图所示。

  随后,选择下图中左上方的“Accept terms”选项。

  至此,我们就完成了数据下载的准备部分工作。

1 手动下载

  首先,我们介绍一下手动下载的方法。手动下载其实就很简单了,在完成上一个“Accept terms”选项步骤之后,上图右下角就会变成下图右下角所示的“Submit Form”选项;选择这一项即可。这个的意思是,将我们前面配置好的下载信息作为一个请求,发给服务器,服务器只要处理好这个请求,我们就可以开始下载了。

  随后,可以在新的界面中,看到我们刚刚发起的这个请求;如下图所示。需要注意的是,此时我们只是将请求发送给了官方网站的服务器,服务器还需要一段时间来处理我们的请求。

  如下图所示,在提交了一个请求之后,我们可以用前文的方法再提交其他的请求;这些请求都在“Your requests”界面中有所显示。

  当服务器处理完毕我们的请求后,可以看到请求列表右侧出现了“Download”选项,点击它就可以下载数据了。

  一般情况下,服务器处理我们请求的时间是不一定的,受到所要下载数据的大小、服务器繁忙情况等影响;如下图所示,我这两个请求,一个是不到200 MB的数据,一个是不到20 MB的数据,分别经过了将近1个小时、20分钟才请求完毕、可以下载,这个速度不算很快。

2 基于Python下载

  接下来,我们介绍一下基于Python代码批量下载数据的方法。

  首先,我们进入这个网页https://cds.climate.copernicus.eu/#!/home);这里需要注意,进入这个网页后,首先需要通过如下的超链接,重新注册一下;我感觉这个步骤的意义就是将我们注册好的ERA5官方网站账号再赋一个API权限。

  其中,如下图所示,这里的“Current password”也要输入。

  随后,我们进入这个网站https://cds.climate.copernicus.eu/api-how-to),并找到如下图所示的网页位置,将右侧黑色区域内的全部信息复制一下。

  接下来,我们还需要配置一下Python代码中,用以下载ERA5数据的一个第三方库cdsapi,也就是ERA5官方开发的、专门用来供Python代码下载ERA5数据的库。如果大家此时还没有Python环境,则可以基于文章Win10中Anaconda及Python的下载与安装方法https://blog.csdn.net/zhebushibiaoshifu/article/details/122642187)中提到的方法来配置代码环境。

  接下来,我们配置cdsapi库;如果需要在虚拟环境中下载这个库,大家可以参考文章Anaconda中Python虚拟环境的创建、使用与删除https://blog.csdn.net/zhebushibiaoshifu/article/details/128334614)中提到的方法,创建新的虚拟环境后再用如下的方法来配置这个库。

  配置cdsapi库也是很简单的。我们直接在Python环境的命令行中分别输入如下代码即可(如果大家没有conda环境的话,可以用pip来安装,具体方法参考ERA5的官方网站即可)。其中,第一句代码用于在conda的配置文件中添加一个新的软件源channel,即conda-forgeconda-forge是一个社区驱动的软件源,提供了广泛的开源软件包,包括这个cdsapi库。第二句代码就是下载cdsapi库。

conda config --add channels conda-forge
conda install cdsapi

  运行上述代码,如下图所示。

)

  我在第一次配置cdsapi库的时候,出现了如下图所示的报错;这种问题一般就是没有管理员权限导致的。

)

  因此,选择用管理员权限打开命令行,如下图所示。

)

  随后,就配置好了cdsapi库;如下图所示。

)

  接下来,我们需要找到.cdsapirc文件,并将前面我们复制的urlkey复制到其中。这里需要注意,这个.cdsapirc文件,原理上在配置完毕cdsapi库后,会自动出现在我们电脑中的C:\Users\用户名文件夹内;如下图所示。

  但是实际上,有的时候我们在上述文件夹内是看不到这个文件的;这样的话,我们可以在这个文件夹内新建一个.txt格式的文本文件,并将我们复制的urlkey复制到其中,如下图所示。

  随后,将这个.txt格式的文本文件重命名为.cdsapirc,如下图所示。

)

  随后,我们回到前面ERA5官方网站中,设置下载数据属性的那个网站,并选择最左侧的“Show API request”选项;如下图所示。

  随后,会出现一个Python代码;如下图所示。我们将这个代码复制到自己的Python语言的IDE中,执行代码即可。

  复制后如下图所示。

  随后,执行上述复制后的代码,如下图所示。可以看到,已经开始代码的下载了。

)

  这里需要注意,下载的气象数据默认保存在Python代码所在的文件夹中;如下图所示。

)

  此外,我们通过上述方式获取的数据,其实也是一个向服务器发送的请求,也是需要首先处理请求、随后在Python中开始下载的;我们同样可以在“Your requests”页面中看到我们通过Python下载数据的请求。下图中,Python下载数据的请求处理数据为0,这个是因为对于同一个数据,我先用手动下载的方式提交过一次请求了,服务器处理之后我又用Python提交了一次请求,所以Python下载数据时就不用了再重新处理请求了。

  同时,当时还简单对比了一下手动下载和Python下载的速度差异,但是感觉两者速度差异不大,都不算很快;但是如果用手动下载的方法,提交并处理完毕请求后,用IDM等下载软件来下载,速度就会很快——至少比用浏览器自带的下载功能,或者Python下载,要明显快很多。

  至此,大功告成。

欢迎关注:疯狂学习GIS

相关文章
|
25天前
|
数据采集 数据可视化 数据挖掘
利用Python自动化处理Excel数据:从基础到进阶####
本文旨在为读者提供一个全面的指南,通过Python编程语言实现Excel数据的自动化处理。无论你是初学者还是有经验的开发者,本文都将帮助你掌握Pandas和openpyxl这两个强大的库,从而提升数据处理的效率和准确性。我们将从环境设置开始,逐步深入到数据读取、清洗、分析和可视化等各个环节,最终实现一个实际的自动化项目案例。 ####
|
24天前
|
开发框架 数据建模 中间件
Python中的装饰器:简化代码,增强功能
在Python的世界里,装饰器是那些静悄悄的幕后英雄。它们不张扬,却能默默地为函数或类增添强大的功能。本文将带你了解装饰器的魅力所在,从基础概念到实际应用,我们一步步揭开装饰器的神秘面纱。准备好了吗?让我们开始这段简洁而富有启发性的旅程吧!
31 6
|
1天前
|
数据采集 Web App开发 监控
Python爬虫:爱奇艺榜单数据的实时监控
Python爬虫:爱奇艺榜单数据的实时监控
|
17天前
|
数据可视化 Python
以下是一些常用的图表类型及其Python代码示例,使用Matplotlib和Seaborn库。
通过这些思维导图和分析说明表,您可以更直观地理解和选择适合的数据可视化图表类型,帮助更有效地展示和分析数据。
59 8
|
24天前
|
API Python
【Azure Developer】分享一段Python代码调用Graph API创建用户的示例
分享一段Python代码调用Graph API创建用户的示例
46 11
|
26天前
|
测试技术 Python
探索Python中的装饰器:简化代码,增强功能
在Python的世界中,装饰器是那些能够为我们的代码增添魔力的小精灵。它们不仅让代码看起来更加优雅,还能在不改变原有函数定义的情况下,增加额外的功能。本文将通过生动的例子和易于理解的语言,带你领略装饰器的奥秘,从基础概念到实际应用,一起开启Python装饰器的奇妙旅程。
35 11
|
22天前
|
Python
探索Python中的装饰器:简化代码,增强功能
在Python的世界里,装饰器就像是给函数穿上了一件神奇的外套,让它们拥有了超能力。本文将通过浅显易懂的语言和生动的比喻,带你了解装饰器的基本概念、使用方法以及它们如何让你的代码变得更加简洁高效。让我们一起揭开装饰器的神秘面纱,看看它是如何在不改变函数核心逻辑的情况下,为函数增添新功能的吧!
|
22天前
|
程序员 测试技术 数据安全/隐私保护
深入理解Python装饰器:提升代码重用与可读性
本文旨在为中高级Python开发者提供一份关于装饰器的深度解析。通过探讨装饰器的基本原理、类型以及在实际项目中的应用案例,帮助读者更好地理解并运用这一强大的语言特性。不同于常规摘要,本文将以一个实际的软件开发场景引入,逐步揭示装饰器如何优化代码结构,提高开发效率和代码质量。
45 6
|
23天前
|
数据采集 分布式计算 大数据
构建高效的数据管道:使用Python进行ETL任务
在数据驱动的世界中,高效地处理和移动数据是至关重要的。本文将引导你通过一个实际的Python ETL(提取、转换、加载)项目,从概念到实现。我们将探索如何设计一个灵活且可扩展的数据管道,确保数据的准确性和完整性。无论你是数据工程师、分析师还是任何对数据处理感兴趣的人,这篇文章都将成为你工具箱中的宝贵资源。
|
27天前
|
Python
Python编程入门:从零开始的代码旅程
本文是一篇针对Python编程初学者的入门指南,将介绍Python的基本语法、数据类型、控制结构以及函数等概念。文章旨在帮助读者快速掌握Python编程的基础知识,并能够编写简单的Python程序。通过本文的学习,读者将能够理解Python代码的基本结构和逻辑,为进一步深入学习打下坚实的基础。