在阿里云HPC上用容器服务一键部署和运行WRF解决方案

简介: 利用阿里云HPC和容器服务,可以在云端快速的部署和执行气象模拟应用,让传统的WRF(气象预报模型)应用焕发新的魅力。阿里云为气象预测提供了丰富的基础设施,从高性能弹性计算、负责均衡到对象存储,日志、监控等等。
+关注继续查看

背景

众所周知,容器技术的出现深刻改变了软件交付的方式:

  • 敏捷: 秒级应用启动、轻量级隔离、细粒度资源控制、低性能损耗
  • 标准化:版本管理可追溯。
  • 可移植性: 环境无关的交付、部署方式;可用于软件生命周期中不同运行环境。
    这些能力不但影响了企业软件的开发、构建和交付模式,提高了交付效率和可靠性,也对于像WRF(Weather Research Forecast)这类大型开源气象科学预报软件产生了潜移默化的影响。美国国家大气研究中心(NCAR,也是WRF的开发方)于2016年开源了自己的容器化解决方案。 而阿里云HPC团队和容器服务团队在NCAR方案的基础上进行了改进和增强,在保持高性能的同时,方便您实现一键式的部署和运行WRF,将复杂的WRF工作变成一个高效,可控的自动化流程。

注: 为节省篇幅,会将美国国家大气研究中心统称为NCAR

痛点

美国国家大气研究中心(NCAR)容器化WRF并非无痛呻吟,作为WRF的开发方,维护者和主要使用者,对于WRF这个在工业界和学术界得到广泛使用的数值天气预测软件,NCAR面临这如下挑战:

  • 编译和执行WRF非常复杂,需要专业的知识和大量的时间准备,很久才能得到结果

    • 代码量巨大
    • 非常多的软件依赖
    • 配置容易出错,很难排查
    • 经常需要数周的准备才能将WRF运行起来并且得到结果
  • WRF本身的部署难度给基于MPI的WRF的高扩展性带来了困难
  • WRF迭代迅速,而部署构建困难导致许多公司和研究机构依然使用3.4.1版本的WRF,造成了极大的维护成本
  • 初学者抱怨搭建WRF难度过大,对于软件知识要求太高,导致入门花的时间太多
  • 研究者发现重现数值天气预报的难度极大,因为机器不同,编译器配置不同,以及复杂的配置和流程

而这些痛苦也是中国的WRF使用者遭遇到的,为了解决这个问题,阿里云容器服务给出以下解决方案:

方案

整个方案分为下面几个步骤:

  • 通过容器镜像标准化WRF的构建和配置,同时实现一次构建到处运行
    -客户可以直接使用阿里云Dockerfile,也可以对其进行改进和替换
  • 利用OSSFS上传WRF配置文件,WPS配置文件, 气象数据以及地理基础数据,

  • 利用容器服务一键式部署和WRF应用,并且将运行出的数据导出到OSS上,并可以直接下载

    • 可以通过参数配置指定运行方式
  • 利用容器服务一键式部署和运行NCL应用,将WRF运算出的结果通过NCL绘图出来

上图所列的是通过阿里云提供高性能计算,容器服务和OSS实现一键式的从数据到计算再产生数据的全过程。

这样就可以看到气象的走势

Precip_total.gif Surface_multi.gif

总结

可以看到,利用阿里云HPC和容器服务,您除了可以获得高性能计算的洪荒之力,还可以简单的掌控这种能力,降低使用门槛,真正实现弹性的高性能计算。利用阿里云的能力,我们可以在云端快速的部署和执行气象模拟应用,让传统的WRF应用焕发新的魅力。阿里云为气象预测提供了丰富的基础设施,从弹性计算、负责均衡到对象存储,日志、监控等等。
具体来说:

  • 帮助客户构建标准化可追溯的容器镜像

    • 让客户很清楚自己在WRF上配置了什么,并且很容易复制自己的配置
    • 将系统构建过程透明化,整个架构可描述,降低运维成本,避免人员变化带来的隐患
  • 加快交付速度,缩短投产时间(从周到小时)

    • 支持WRF应用的一键式部署和执行
    • 无需提前软件依赖,几个小时内WRF就开始工作
  • 支持本地和云上构建和测试,保持一致性
  • 国际上WRF的版本演进非常迅速,紧跟国际潮流,保持更新速度
  • 多种软件及配置组合比较,最优性能选择

想了解更多容器服务内容,请访问 https://www.aliyun.com/product/containerservice

想了解如何在HPC上使用容器服务,请访问https://help.aliyun.com/document_detail/48631.html

相关实践学习
Docker镜像管理快速入门
本教程将介绍如何使用Docker构建镜像,并通过阿里云镜像服务分发到ECS服务器,运行该镜像。
深入解析Docker容器化技术
Docker是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的Linux机器上,也可以实现虚拟化,容器是完全使用沙箱机制,相互之间不会有任何接口。Docker是世界领先的软件容器平台。开发人员利用Docker可以消除协作编码时“在我的机器上可正常工作”的问题。运维人员利用Docker可以在隔离容器中并行运行和管理应用,获得更好的计算密度。企业利用Docker可以构建敏捷的软件交付管道,以更快的速度、更高的安全性和可靠的信誉为Linux和Windows Server应用发布新功能。 在本套课程中,我们将全面的讲解Docker技术栈,从环境安装到容器、镜像操作以及生产环境如何部署开发的微服务应用。本课程由黑马程序员提供。     相关的阿里云产品:容器服务 ACK 容器服务 Kubernetes 版(简称 ACK)提供高性能可伸缩的容器应用管理能力,支持企业级容器化应用的全生命周期管理。整合阿里云虚拟化、存储、网络和安全能力,打造云端最佳容器化应用运行环境。 了解产品详情: https://www.aliyun.com/product/kubernetes
目录
相关文章
|
13天前
|
弹性计算 NoSQL 安全
在阿里云部署开源软件最便捷的方法
作为一个软件开发或运维工程师,经常会花很多时间去部署配置各种环境,装个开源软件,宝贵的时间就浪费在这里了。 现在有一个便捷的方式,可以快速在阿里云上部署开源软件。
17 0
|
26天前
|
容器
阿里云最新产品手册——云基础产品与基础设施——计算——弹性容器实例——通用部署ACK虚拟节点组件创建ECI Pot——ECI Pot——特殊实例
阿里云最新产品手册——云基础产品与基础设施——计算——弹性容器实例——通用部署ACK虚拟节点组件创建ECI Pot——ECI Pot——特殊实例自制脑图
50 2
|
26天前
|
容器
阿里云最新产品手册——云基础产品与基础设施——计算——弹性容器实例——通用部署ACK虚拟节点组件创建ECI Pot——ECI Pot——创建ECI Pot
阿里云最新产品手册——云基础产品与基础设施——计算——弹性容器实例——通用部署ACK虚拟节点组件创建ECI Pot——ECI Pot——创建ECI Pot自制脑图
35 1
|
26天前
|
容器
阿里云最新产品手册——云基础产品与基础设施——计算——弹性容器实例——通用部署ACK虚拟节点组件创建ECI Pot——ECI Pot
阿里云最新产品手册——云基础产品与基础设施——计算——弹性容器实例——通用部署ACK虚拟节点组件创建ECI Pot——ECI Pot自制脑图
27 1
|
29天前
|
容器
阿里云最新产品手册——云基础产品与基础设施——计算——弹性容器实例——通用部署ACK虚拟节点组件创建ECI Pot——前提条件
阿里云最新产品手册——云基础产品与基础设施——计算——弹性容器实例——通用部署ACK虚拟节点组件创建ECI Pot——前提条件自制脑图
101 1
|
29天前
|
容器
阿里云最新产品手册——云基础产品与基础设施——计算——弹性容器实例——通用部署ACK虚拟节点组件创建ECI Pot——虚拟节点
阿里云最新产品手册——云基础产品与基础设施——计算——弹性容器实例——通用部署ACK虚拟节点组件创建ECI Pot——虚拟节点自制脑图
67 1
|
10月前
|
机器学习/深度学习 边缘计算 Kubernetes
阿里云容器服务产品与解决方案介绍|学习笔记
快速学习阿里云容器服务产品与解决方案介绍
118 0
阿里云容器服务产品与解决方案介绍|学习笔记
|
存储 人工智能 弹性计算
阿里云高性能计算负责人何万青:阿里云大计算加速HPC与AI融合
与AI相结合,高性能计算能够帮助科研人员将精力集中于专业领域。
阿里云高性能计算负责人何万青:阿里云大计算加速HPC与AI融合
|
存储 弹性计算 运维
汽车仿真效率30%↑、药物研发效率20倍↑,阿里云获HPC CHINA 2020“最佳行业应用奖”
近日,HPC CHINA 2020 大会以线上线下——双线联动的形式同步召开,近 300 位重量级高性能计算(超算)领域专家学者与业界精英人士、CCF 高专委委员汇聚郑州,共同探索高性能计算的发展。
汽车仿真效率30%↑、药物研发效率20倍↑,阿里云获HPC CHINA 2020“最佳行业应用奖”
使用阿里云容器服务&文件存储NAS构建Jenkins持续集成解决方案
基于阿里云容器服务和文件存储NAS构建自动化持续集成交付环境
相关产品
容器镜像服务
容器服务Kubernetes版
推荐文章
更多