阿里云高性能计算负责人何万青:阿里云大计算加速HPC与AI融合

简介: 与AI相结合,高性能计算能够帮助科研人员将精力集中于专业领域。

摘要:2022年8月5日,2022阿里云生命科学与智能计算峰会在北京望京昆泰酒店举行,阿里云高性能计算负责人何万青博士,带来了题为《阿里云大计算加速HPC与AI融合》的分享,以下是他的演讲内容整理,供大家阅览:

图片1.jpg

阿里云高性能计算负责人  何万青


人类历史上各种广谱药的发现,是一个漫长且靠运气的过程。新药的发现和制造往往需要十多年的时间,每年 FDA 能够批准上市的新药少之又少。

图片2.png


而新冠的爆发带来了一个重要契机,我们通过整合云上计算资源,第一时间帮到科研机构开展新冠研究,从而发现了云计算具备的独特优势。据报道,世界上前 20 大药厂 70% 的算力和研发都在往云上迁移。

图片3.png


在新冠疫情爆发初期,阿里云第一时间免费开放AI算力支持抗疫研发,支持科研人员围绕新冠病毒进行药物研究;其次,通过大数据进行公共医疗政策的研究,助力大数据系统、追踪系统以及决策系统;另外,向全世界开放阿里的科研抗疫平台,对接了来自 50个国家&地区的33个需求。


而这个契机也让我们意识到,AI是一种即将爆发的新的IT技术、新的计算平台

图片4.png


过去,高性能计算支持生命科学的发展,主要着力于科研和科研团队的培养,但并不明确会导向何种药物、何种结果。而现如今,此类需求非常明显,我们面对大量的数据库和化合物,需要对疾病和样本做分析、基因测序。


过去的应用分为两大类:第一类是基于第一性原理的分子动力学、量子色动力学等,比如分析细胞组成的分子之间的作用力、化合物之间的作用;第二类是面向精准治疗时的基因测序,同样需要非常大的算力,科学家需要解决的是机理和算法问题,但大规模的实现需要工程人员来解决,比如高通量测序。


最近几年发展最快的是 AI 算法,通过AI对大量数据进行筛查。而此过程需要解决的问题有:如何将AI算法和技术放在云超算平台上?大量的数据如何在云上进行传输?


总结来说,高性能计算在云上进行服务,需要解决以下线下超算的痛点:

图片5.png

① 弹性扩展难:实际业务中,往往难以预测突发情况的需求,因此,弹性伸缩十分必要。


② 可靠性不高:计算中心或物理集群规模扩大之后,无法保证百分百的稳定性,因此必然会出现重新计算的需求,针对此需求,云计算稳定的SLA之外,还实现了断点续算技术。


③ 性能瓶颈:云上计算突破了海量数据进行机器学习或筛查的 GPU 瓶颈,过去花费数周数月才能够完成的计算,如今可缩短为几天。


④ 成本挑战:过去,成本和算力难以兼得,自建超算中心往往 CAPEX不低,且后续运维成本OPEX更大,难以实现。

图片6.png


借助云平台,科学家和科研人员能够专心于自己专业内的工作,聚焦于应用。而应用这一层,科研人员将它作为软件放至云上,让更多的科研人员实现科研合作和服务共享。


阿里云最基本的能力是提供弹性的伸缩算力,在此之上,高性能计算最核心的部分是与伸缩算力耦合的并行作业调度,还需要支持 AI Framework。用户如果有自己的计算资源,可以通过混合调度在云上利用原有的计算资源。大部分科研人员对本地环境最熟悉,需要将它们的能力迁移至云上。此外,生命科学领域非常依赖于全世界的NH数据库,且需要高速互联,也可以通过阿里云的高速来实现。


HPC 应用是 Data go to compute,但 AI 是分布式、数量极大的compute go to data计算模式,有自己的生态,如何对两者进行结合?中国的软件公司依然不够发达,新产品、新发现难以在短时间内为人所知,受限于盗版问题和推广问题。但在云上可以实现 SaaS 化,通过 OpenAPI 将产品变为云上的服务。

图片7.png


高性能计算里有两个很大的领域需要无限的算力,分别是地球物理和气象和生命科学。这就需要基于神龙的弹性裸金属超级计算集群SCC来提供了低延迟网络和并行文件系统的高性能集群

图片8.png


通过高性能计算推动实现了阿里云CPFS并行文件系统,提供了除了云上大数据类型的 HDFS 分布式存储,能够实现了大批量并行吞吐的需求。

图片9.png


通过阿里提供的“无影”,可以访问任何端和云上的计算资源,包括但不限于PC、手机、屏幕等,可以将公共云的操作、应用入口以及背后的集群资源管理整合在一处。一方面可以作为虚拟的桌面,另一方面也可以作为应用入口。

图片10.png


我们打通了云上云下,云下可以通过专线连至云上,头节点在线下,然后在云上安装E-HPC agent即可通过 job scheduler 调度资源。大部分情况下,任务数据需要进行两边的传输,因此可以充分利用线上线下的高峰低谷。此外,NAS异步存储的数据可以在作业执行时从线下拉取,这在高通量计算场景下非常必要。

图片11.png


另外,也可以将计算的管理埋在头节点,即使用 E-HPC 作为管控,自己的管控通过在云下接收 agent 进行计算来实现。

图片12.png


E-HPC+AI是当前的热门趋势。各种 AI framework 最初的目的不是为了解决科学机理性的问题,而是为了解决搜索、推广、广告等与群体思维有关但缺乏机理模型的问题。而如今,我们将高性能计算容器做成镜像,在部署和计算过程中快速展开,使其也能用于科学研究,比如在拥有大量数据的情况下,将人的经验作为模型注入AI,然后通过机器将问题空间降低。

图片13.png


此外,为了方便科研人员的使用,我们增加了E-HPC用户入口。整个开发和业务流程都可以从用户视角进行查看。

图片14.png


平台集成了众多可视化软件,科研人员可以通过客户端(无影+Win&Mac)直接进入,底层提供了所有服务。

图片15.png


无影是软件定义的云原生电脑,相当于一个入口,它可以是任何设备或屏幕。云上数据中心的规模远小于端的规模,而端侧受限于 CPU 的能力往往无法实现太多能力。但是如果通过 VID 或自己的协议,能够将云上的可视化部分利用起来,则可以实现非常多的访问。

图片16.png


过去传统的计算结构的交互为显示器、键盘鼠标、打印机等与一台计算存储网络。而未来,只需要通过无影,它可能是一个盒子,可能是一个电脑上的应用入口,即可访问所有云上的可视化软件以及计算资源。无影很可能成为将来元宇宙的入口,因为所有 GPU、DPU、XPU 将来都是通过服务的模式进入数字世界。


此外,用户完全可以控制信息不被泄露。过去,我们通过一台全功能的机器上网,病毒可以通过机器入侵电脑。而无影可以配置为是单向的,避免了病毒入侵。

图片17.png


无影可以作为云产品放在任何机器上,比如过时的手机,随时随地用云电脑办公。

图片18.png


如今很多科研产品是软件,需要更多地服务广大科研工作者。而在自己的机器安装和使用,运维和 OPEX 都非常高,也难以调用更多资源。


因此,我们推出了计算巢,可以通过它快速将云计算本身的运维、资源调度、资源计费等所有资源管理透明地开放给用户,用户只需考虑安装类工作,剩下的都可以交由计算巢来完成。

图片19.png


阿里云今天发布生命科学行业云上解决方案与最佳实践白皮书,主要包含三部分:云能解决生命科学领域的哪些问题、五大解决方案以及三大最佳实践。高性能计算本质上希望能够帮助科研人员将精力集中于专业领域,而无需耗费精力在处理器结构等非专业领域的问题上。

图片20.png


E-HPC与MemVerge的集成解决方案主要助力于HPC基因测序及芯片设计大内存算例的性能优化,可以将常规内存与持久性内存全部虚拟化成一个大池,根据具体需求进行伸缩。

图片21.png


GHDDI在新冠期间研发作业量大增,面临资源紧急需求,需要快速启用一批计算资源支撑新冠病毒分析、病理分析等业务,同时GHDDI是一家全球化的研究机构,需要打通国内海外数据,完成全球合作研究。比如会有 web service ,需要通过 OSS 将数据拉上来,另外需要能够实现异步的数据拉取以及异步缓存。


我们为其提供的解决方案如下:


◾ 利用AutoDock Vina / NAMD / AI技术通过docking和分子动力学模拟进行药物筛选,并将计算成果直接通过阿里云对外公布和共享;

◾ E-HPC:创建HPC 应用运行环境;

◾ NAS:提供数据存储;

◾ ECS/EGS:提供计算能力 & wiki 服务;

◾ 8台 8卡 A100 算力支撑;

◾ OSS+EIP:计算成果存储和对外共享。

图片22.png


药物研究企业的需求往往是低成本、弹性伸缩,能够很清楚地跟踪每一个 workload 。我们针对某药企的需求,开发了抢占式实例,抢占到实例后存在限定的时间,超时后不做任何清理则对资源进行释放,极大降低了成本。


逆转录的研究需要将数据库与海外的数据库通过阿里的高速网络打通,实现异步复制和高通量的计算。

图片23.png


通过多CPU并行利用AlphaFold2可以预测单链结构模板。我们希望能够在云上开放AlphaFold2服务,为院校的日常课程、培训提供更大的支持。

图片24.png


科研类单位、制药企业的业务存在极大的随机性,因此对于资源的利用率需要更精细化的管理。


阿里云高性能计算的目标是为科研行业提供更高的算力和更高的资源利用率,服务更多科研人员,让科学家们将更多的精力投入于专业领域当中,为科研行业助力!


点击这里,观看嘉宾在本次峰会的精彩演讲视频  。


相关文章
|
14天前
|
人工智能 架构师
活动火热报名中|阿里云&Elastic:AI Search Tech Day
2024年11月22日,阿里云与Elastic联合举办“AI Search Tech Day”技术思享会活动。
163 2
|
14天前
|
存储 人工智能 大数据
阿里云吴结生:高性能计算持续创新,响应数据+AI时代的多元化负载需求
在数字化转型的大潮中,每家公司都在积极探索如何利用数据驱动业务增长,而AI技术的快速发展更是加速了这一进程。
|
18天前
|
人工智能 Kubernetes 云计算
第五届CID大会成功举办,阿里云基础设施加速AI智能产业发展!
2024年10月19日,第五届中国云计算基础架构开发者大会(CID)在北京朗丽兹西山花园酒店成功举办。本次大会汇聚了来自云计算领域的众多精英,不同背景的与会者齐聚一堂,共同探讨云计算技术的最新发展与未来趋势。
|
19天前
|
人工智能 Kubernetes 云计算
第五届CID大会成功举办,阿里云基础设施加速AI智能产业发展!
第五届中国云计算基础架构开发者大会(CID)于2024年10月19日在北京成功举办。大会汇聚了300多位现场参会者和超过3万名在线观众,30余位技术专家进行了精彩分享,涵盖高效部署大模型推理、Knative加速AI应用Serverless化、AMD平台PMU虚拟化技术实践、Kubernetes中全链路GPU高效管理等前沿话题。阿里云的讲师团队通过专业解读,为与会者带来了全新的视野和启发,推动了云计算技术的创新发展。
|
9天前
|
机器学习/深度学习 人工智能 自然语言处理
当前AI大模型在软件开发中的创新应用与挑战
2024年,AI大模型在软件开发领域的应用正重塑传统流程,从自动化编码、智能协作到代码审查和测试,显著提升了开发效率和代码质量。然而,技术挑战、伦理安全及模型可解释性等问题仍需解决。未来,AI将继续推动软件开发向更高效、智能化方向发展。
|
13天前
|
机器学习/深度学习 人工智能 自然语言处理
AI在医疗领域的应用及其挑战
【10月更文挑战第34天】本文将探讨人工智能(AI)在医疗领域的应用及其面临的挑战。我们将从AI技术的基本概念入手,然后详细介绍其在医疗领域的各种应用,如疾病诊断、药物研发、患者护理等。最后,我们将讨论AI在医疗领域面临的主要挑战,包括数据隐私、算法偏见、法规合规等问题。
39 1
|
5天前
|
机器学习/深度学习 人工智能 算法
AI在医疗诊断中的应用
【10月更文挑战第42天】本文将探讨人工智能(AI)在医疗诊断中的应用,包括其优势、挑战和未来发展方向。我们将通过实例来说明AI如何改变医疗行业,提高诊断的准确性和效率。
|
6天前
|
存储 人工智能 搜索推荐
Memoripy:支持 AI 应用上下文感知的记忆管理 Python 库
Memoripy 是一个 Python 库,用于管理 AI 应用中的上下文感知记忆,支持短期和长期存储,兼容 OpenAI 和 Ollama API。
37 6
Memoripy:支持 AI 应用上下文感知的记忆管理 Python 库
|
2天前
|
机器学习/深度学习 人工智能 算法
强化学习在游戏AI中的应用,从基本原理、优势、应用场景到具体实现方法,以及Python在其中的作用
本文探讨了强化学习在游戏AI中的应用,从基本原理、优势、应用场景到具体实现方法,以及Python在其中的作用,通过案例分析展示了其潜力,并讨论了面临的挑战及未来发展趋势。强化学习正为游戏AI带来新的可能性。
19 4
|
2天前
|
机器学习/深度学习 人工智能 算法
AI技术在医疗诊断中的应用及前景展望
本文旨在探讨人工智能(AI)技术在医疗诊断领域的应用现状、挑战与未来发展趋势。通过分析AI技术如何助力提高诊断准确率、缩短诊断时间以及降低医疗成本,揭示了其在现代医疗体系中的重要价值。同时,文章也指出了当前AI医疗面临的数据隐私、算法透明度等挑战,并对未来的发展方向进行了展望。