阿里云高性能计算负责人何万青:阿里云大计算加速HPC与AI融合

本文涉及的产品
云服务器 ECS,每月免费额度200元 3个月
云服务器ECS,u1 2核4GB 1个月
简介: 与AI相结合,高性能计算能够帮助科研人员将精力集中于专业领域。

摘要:2022年8月5日,2022阿里云生命科学与智能计算峰会在北京望京昆泰酒店举行,阿里云高性能计算负责人何万青博士,带来了题为《阿里云大计算加速HPC与AI融合》的分享,以下是他的演讲内容整理,供大家阅览:

图片1.jpg

阿里云高性能计算负责人  何万青


人类历史上各种广谱药的发现,是一个漫长且靠运气的过程。新药的发现和制造往往需要十多年的时间,每年 FDA 能够批准上市的新药少之又少。

图片2.png


而新冠的爆发带来了一个重要契机,我们通过整合云上计算资源,第一时间帮到科研机构开展新冠研究,从而发现了云计算具备的独特优势。据报道,世界上前 20 大药厂 70% 的算力和研发都在往云上迁移。

图片3.png


在新冠疫情爆发初期,阿里云第一时间免费开放AI算力支持抗疫研发,支持科研人员围绕新冠病毒进行药物研究;其次,通过大数据进行公共医疗政策的研究,助力大数据系统、追踪系统以及决策系统;另外,向全世界开放阿里的科研抗疫平台,对接了来自 50个国家&地区的33个需求。


而这个契机也让我们意识到,AI是一种即将爆发的新的IT技术、新的计算平台

图片4.png


过去,高性能计算支持生命科学的发展,主要着力于科研和科研团队的培养,但并不明确会导向何种药物、何种结果。而现如今,此类需求非常明显,我们面对大量的数据库和化合物,需要对疾病和样本做分析、基因测序。


过去的应用分为两大类:第一类是基于第一性原理的分子动力学、量子色动力学等,比如分析细胞组成的分子之间的作用力、化合物之间的作用;第二类是面向精准治疗时的基因测序,同样需要非常大的算力,科学家需要解决的是机理和算法问题,但大规模的实现需要工程人员来解决,比如高通量测序。


最近几年发展最快的是 AI 算法,通过AI对大量数据进行筛查。而此过程需要解决的问题有:如何将AI算法和技术放在云超算平台上?大量的数据如何在云上进行传输?


总结来说,高性能计算在云上进行服务,需要解决以下线下超算的痛点:

图片5.png

① 弹性扩展难:实际业务中,往往难以预测突发情况的需求,因此,弹性伸缩十分必要。


② 可靠性不高:计算中心或物理集群规模扩大之后,无法保证百分百的稳定性,因此必然会出现重新计算的需求,针对此需求,云计算稳定的SLA之外,还实现了断点续算技术。


③ 性能瓶颈:云上计算突破了海量数据进行机器学习或筛查的 GPU 瓶颈,过去花费数周数月才能够完成的计算,如今可缩短为几天。


④ 成本挑战:过去,成本和算力难以兼得,自建超算中心往往 CAPEX不低,且后续运维成本OPEX更大,难以实现。

图片6.png


借助云平台,科学家和科研人员能够专心于自己专业内的工作,聚焦于应用。而应用这一层,科研人员将它作为软件放至云上,让更多的科研人员实现科研合作和服务共享。


阿里云最基本的能力是提供弹性的伸缩算力,在此之上,高性能计算最核心的部分是与伸缩算力耦合的并行作业调度,还需要支持 AI Framework。用户如果有自己的计算资源,可以通过混合调度在云上利用原有的计算资源。大部分科研人员对本地环境最熟悉,需要将它们的能力迁移至云上。此外,生命科学领域非常依赖于全世界的NH数据库,且需要高速互联,也可以通过阿里云的高速来实现。


HPC 应用是 Data go to compute,但 AI 是分布式、数量极大的compute go to data计算模式,有自己的生态,如何对两者进行结合?中国的软件公司依然不够发达,新产品、新发现难以在短时间内为人所知,受限于盗版问题和推广问题。但在云上可以实现 SaaS 化,通过 OpenAPI 将产品变为云上的服务。

图片7.png


高性能计算里有两个很大的领域需要无限的算力,分别是地球物理和气象和生命科学。这就需要基于神龙的弹性裸金属超级计算集群SCC来提供了低延迟网络和并行文件系统的高性能集群

图片8.png


通过高性能计算推动实现了阿里云CPFS并行文件系统,提供了除了云上大数据类型的 HDFS 分布式存储,能够实现了大批量并行吞吐的需求。

图片9.png


通过阿里提供的“无影”,可以访问任何端和云上的计算资源,包括但不限于PC、手机、屏幕等,可以将公共云的操作、应用入口以及背后的集群资源管理整合在一处。一方面可以作为虚拟的桌面,另一方面也可以作为应用入口。

图片10.png


我们打通了云上云下,云下可以通过专线连至云上,头节点在线下,然后在云上安装E-HPC agent即可通过 job scheduler 调度资源。大部分情况下,任务数据需要进行两边的传输,因此可以充分利用线上线下的高峰低谷。此外,NAS异步存储的数据可以在作业执行时从线下拉取,这在高通量计算场景下非常必要。

图片11.png


另外,也可以将计算的管理埋在头节点,即使用 E-HPC 作为管控,自己的管控通过在云下接收 agent 进行计算来实现。

图片12.png


E-HPC+AI是当前的热门趋势。各种 AI framework 最初的目的不是为了解决科学机理性的问题,而是为了解决搜索、推广、广告等与群体思维有关但缺乏机理模型的问题。而如今,我们将高性能计算容器做成镜像,在部署和计算过程中快速展开,使其也能用于科学研究,比如在拥有大量数据的情况下,将人的经验作为模型注入AI,然后通过机器将问题空间降低。

图片13.png


此外,为了方便科研人员的使用,我们增加了E-HPC用户入口。整个开发和业务流程都可以从用户视角进行查看。

图片14.png


平台集成了众多可视化软件,科研人员可以通过客户端(无影+Win&Mac)直接进入,底层提供了所有服务。

图片15.png


无影是软件定义的云原生电脑,相当于一个入口,它可以是任何设备或屏幕。云上数据中心的规模远小于端的规模,而端侧受限于 CPU 的能力往往无法实现太多能力。但是如果通过 VID 或自己的协议,能够将云上的可视化部分利用起来,则可以实现非常多的访问。

图片16.png


过去传统的计算结构的交互为显示器、键盘鼠标、打印机等与一台计算存储网络。而未来,只需要通过无影,它可能是一个盒子,可能是一个电脑上的应用入口,即可访问所有云上的可视化软件以及计算资源。无影很可能成为将来元宇宙的入口,因为所有 GPU、DPU、XPU 将来都是通过服务的模式进入数字世界。


此外,用户完全可以控制信息不被泄露。过去,我们通过一台全功能的机器上网,病毒可以通过机器入侵电脑。而无影可以配置为是单向的,避免了病毒入侵。

图片17.png


无影可以作为云产品放在任何机器上,比如过时的手机,随时随地用云电脑办公。

图片18.png


如今很多科研产品是软件,需要更多地服务广大科研工作者。而在自己的机器安装和使用,运维和 OPEX 都非常高,也难以调用更多资源。


因此,我们推出了计算巢,可以通过它快速将云计算本身的运维、资源调度、资源计费等所有资源管理透明地开放给用户,用户只需考虑安装类工作,剩下的都可以交由计算巢来完成。

图片19.png


阿里云今天发布生命科学行业云上解决方案与最佳实践白皮书,主要包含三部分:云能解决生命科学领域的哪些问题、五大解决方案以及三大最佳实践。高性能计算本质上希望能够帮助科研人员将精力集中于专业领域,而无需耗费精力在处理器结构等非专业领域的问题上。

图片20.png


E-HPC与MemVerge的集成解决方案主要助力于HPC基因测序及芯片设计大内存算例的性能优化,可以将常规内存与持久性内存全部虚拟化成一个大池,根据具体需求进行伸缩。

图片21.png


GHDDI在新冠期间研发作业量大增,面临资源紧急需求,需要快速启用一批计算资源支撑新冠病毒分析、病理分析等业务,同时GHDDI是一家全球化的研究机构,需要打通国内海外数据,完成全球合作研究。比如会有 web service ,需要通过 OSS 将数据拉上来,另外需要能够实现异步的数据拉取以及异步缓存。


我们为其提供的解决方案如下:


◾ 利用AutoDock Vina / NAMD / AI技术通过docking和分子动力学模拟进行药物筛选,并将计算成果直接通过阿里云对外公布和共享;

◾ E-HPC:创建HPC 应用运行环境;

◾ NAS:提供数据存储;

◾ ECS/EGS:提供计算能力 & wiki 服务;

◾ 8台 8卡 A100 算力支撑;

◾ OSS+EIP:计算成果存储和对外共享。

图片22.png


药物研究企业的需求往往是低成本、弹性伸缩,能够很清楚地跟踪每一个 workload 。我们针对某药企的需求,开发了抢占式实例,抢占到实例后存在限定的时间,超时后不做任何清理则对资源进行释放,极大降低了成本。


逆转录的研究需要将数据库与海外的数据库通过阿里的高速网络打通,实现异步复制和高通量的计算。

图片23.png


通过多CPU并行利用AlphaFold2可以预测单链结构模板。我们希望能够在云上开放AlphaFold2服务,为院校的日常课程、培训提供更大的支持。

图片24.png


科研类单位、制药企业的业务存在极大的随机性,因此对于资源的利用率需要更精细化的管理。


阿里云高性能计算的目标是为科研行业提供更高的算力和更高的资源利用率,服务更多科研人员,让科学家们将更多的精力投入于专业领域当中,为科研行业助力!


点击这里,观看嘉宾在本次峰会的精彩演讲视频  。


相关文章
|
18天前
招募!阿里云x魔搭社区发起Create@AI创客松邀你探索下一代多维智能体应用
招募!阿里云x魔搭社区发起Create@AI创客松邀你探索下一代多维智能体应用
303 0
|
2月前
|
人工智能 运维 Kubernetes
阿里云容器服务ACK AI助手正式上线带来的便利性
作为开发者想必大家都知道,云原生容器技术的优势,尤其是近两年的随着容器技术的迅猛发展,Kubernetes(K8s)已成为广泛应用于容器编排和管理的领先解决方案,但是K8s的运维复杂度一直是挑战之一。为了应对这一问题,就在最近,阿里云容器服务团队正式发布了ACK AI助手,这是一款旨在通过大模型增强智能诊断的产品,旨在帮助企业和开发者降低Kubernetes(K8s)的运维复杂度。那么本文就来详细讲讲关于这款产品,让我们结合实际案例分享一下K8s的运维经验,探讨ACK AI助手能否有效降低K8s的运维复杂度,并展望ACK AI助手正式版上线后的新功能。
269 2
阿里云容器服务ACK AI助手正式上线带来的便利性
|
2月前
|
人工智能 数据管理 Serverless
阿里云数据库走向Serverless与AI驱动的一站式数据平台具有重大意义和潜力
阿里云数据库走向Serverless与AI驱动的一站式数据平台具有重大意义和潜力
407 2
|
2月前
|
人工智能 数据管理 大数据
阿里云数据库走向Serverless与AI驱动的一站式数据平台是一个很有前景和意义的发展方向
阿里云数据库走向Serverless与AI驱动的一站式数据平台是一个很有前景和意义的发展方向
34 2
|
7天前
|
存储 机器学习/深度学习 网络协议
阿里云企业级ARM计算规格族特点、适用场景及收费标准与活动价格参考
阿里云企业级ARM计算规格族是阿里云继X86计算、异构计算、弹性裸金屈服务器、超级计算集群之后推出的全新架构云服务器,ARM计算规格族有通用型实例规格族g8y、计算型实例规格族c8y、通用型实例规格族g6r等。下面是阿里云企业级ARM计算规格族特点、适用场景及最新收费标准和活动价格参考。
阿里云企业级ARM计算规格族特点、适用场景及收费标准与活动价格参考
|
1月前
|
存储 机器学习/深度学习 并行计算
阿里云服务器X86计算、Arm计算、GPU/FPGA/ASIC、高性能计算架构区别
在我们选购阿里云服务器的时候,云服务器架构有X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器、高性能计算可选,有的用户并不清楚他们之间有何区别,本文主要简单介绍下不同类型的云服务器有何不同,主要特点及适用场景有哪些。
阿里云服务器X86计算、Arm计算、GPU/FPGA/ASIC、高性能计算架构区别
|
1月前
|
存储 人工智能 自然语言处理
“智能+”时代,深维智信如何借助阿里云打造AI内容生成系统
随着数字经济的发展,线上数字化远程销售模式越来越成为一种主流,销售流程也演变为线上视频会议、线下拜访等多种方式的结合。根据Gartner报告,到2025 年60%的B2B 销售组织将从基于经验和直觉的销售转变为数据驱动的销售,将销售流程、销售数据、销售分析合并形成一致的运营实践。
405 0
“智能+”时代,深维智信如何借助阿里云打造AI内容生成系统
|
1月前
|
云安全 人工智能 安全
|
1月前
|
人工智能
阿里云AI作画工具免费体验
阿里云AI作画工具免费体验
206 0
|
1月前
|
存储 安全 网络协议
2024阿里云上云采购季活动,云服务器计算型c8a、通用型g8i/g8a/g8y实例区别及价格参考
在阿里云2024年的上云采购季活动中,除了以往活动中有的轻量应用服务器和经济型e、通用算力型u1、计算型c7、通用型g7实例之外,阿里云还新增了计算型c8a、通用型g8i/g8a和g8y实例规格,这些都是具有超高性能的AMD&Intel&倚天第八代云服务器,那么这几个云服务器实例规格的性能及适用场景是怎样的呢?本文为大家介绍阿里云计算型c8a、通用型g8i/g8a和g8y实例规格性能及适用场景。
368 0
2024阿里云上云采购季活动,云服务器计算型c8a、通用型g8i/g8a/g8y实例区别及价格参考