生命科学行业解决方案

简介: 本文整理自阿里云弹性计算产品解决方案架构马继雨(芦笋),在阿里云云计算情报局的分享。本篇内容主要分为四个部分:1. 行业综述2. 行业分析3. 云超算解决方案4. 关键特性及方案优势

生命科学行业解决方案



摘要:本文整理自阿里云弹性计算产品解决方案架构马继雨(芦笋),在阿里云

云计算情报局的分享。本篇内容主要分为四个部分:

1. 行业综述

2. 行业分析

3. 云超算解决方案

4. 关键特性及方案优势


 

一、行业综述

image.png

生命科学是研究生命现象、揭示生命活动规律和生命本质的科学。通常把服务于科学研究的企业所处的行业统称为科学服务行业,把服务于生命科学研究的企业所处的行业叫生命科学服务行业。生命科学技术是以分子遗传学为核心的先进科学技术。生命科学所要回答的首要问题就是“什么是生命”。


生命科学的主要领域是医药、生物、银行、基因等相关的一些领域。在市场中,息息相关的客户群体也主要是医院、研发、科研等。


image.png

整个行业的产业链分为上、中、下三层。


上游主要是设备的生产及软件研发,比赛默飞,华大都是较为有名的上游厂商;中游主要是以服务商为主;下游是医疗机构、科研场所、制药公司等服务。


由此可见,上游掌握着整个行业命脉。中游为面向终端用户的生命科学服务商为用户提供相应服务,从中收取服务费。下游则为服务使用者,其决定了中游服务细分赛道的市场容量、发展前景及业务模式特点。

image.png

以基因检测技术为例,二代基因测序是当前下基因检测最热门技术。主要为从血液或唾液中分析测定基因全序列,预测罹患多种疾病的可能性。


基因测序相关产品和技术已由实验室研究演变到临床使用,可以说基因测序技术是下一个改变世界的技术。与PCR和FISH技术相比,具有高通量、数据量大的特点。基因测序技术的缺点是操作复杂、对样本DNA浓度和纯度要求较高,且数据庞杂。


image.png


结合基因组学比较典型的业务,全基因组测序。人类基因组计划(HGP)历经13年,在2003年完成,使得整个基因测序领域发生了革命性的变化,随后很多政府资助的大规模测序计划也陆续启动,如1000基因组计划、10K计划等,极大推动了人类对基因变异、人类进化和基因疾病的研究及发现。


在计算机科学生信领域,基于GATK的全基因组测序流程则在现代基因测序中发挥着至关重要的作用。


在典型的基因组测序业务中,涉及应用软件数量繁多,且使用方式各异,也存在大量的串行化软件,典型的全基因组测序流程,有两个主要特征。


第一,执行时间长,常规流程及通用计算资源,一个人类基因组样本需要近1000核时进行处理。第二,数据量大,单个样本平均能产生1TB的中间数据。

因此,结合集群调度器提升并发效率、结合异构方案加速执行性能、基于容器部署不同业务镜像、存储的冷热数据备份,都已成为计算机生信领域主要的分析课题。

 

二、行业分析

image.png

传统超算方案,主要通过线下超算集群或者自建的机房对接。目前,主要面临三个问题。


用户资源老化过保后,资源复用及维护,需要投入大量的人力、财力。

业务的峰谷效应。因为资源有限,高峰期作业排队时间长,低谷期资源使用率低。


已有集群无法满足新增业务及技术创新的需要,可扩展性不足,采购周期比较长。

随着基因组的不断演进,计算科技的不断发展,传统基因组测序已经无法满足现有的业务的发展诉求。

image.png

对于传统的高性能计算业务流程,主要分为以下三个阶段,即业务前的处理,业务中的提交调度和执行,业务后的可视化分析。


如右上角,作业提交至调度器。调度器做线下机器的调度分发,根据作业运行配置和当前资源情况,调度适合的资源参与计算作业。

image.png

传统行业的方案有以下几个特点,扩展性不佳、性能瓶颈,管理维护难,新技术挑战。其中,较为明显的是性能瓶颈。高峰算力不足,作业排队时间长,严重影响业务。

在管理维护方面,投入成本较大,软件统一管控、安全保障、建设运维一体化的方案不够。

 

三、云超算解决方案

image.png

阿里云高性能计算产品E-HPC主要是软件服务,通过高性能计算业务习惯与云计算优势相结合。大规模集群部署与推理,弹性的使用资源,工作流从前到后的保障,作业调度运行的管理,多客户的安全隔离。性能剖析与调优。


HPC作为基础设施,符合高性能计算业务场景与可靠性的要求。计算、存储、网络,图形可视化,满足了用户极致的性能诉求,低延时的网络通信,大规模刚推送的并行文件系统。


在线性扩容方面,阿里云高性能产品联合生命科学行业三十多款应用,提供轻量级使用便利。对于征信行业,兼容众多市场主流征信软件,提供生命科学统一门户。


阿里云在pass层提供集群算力、弹性伸缩、多级缓存、商业管理、资源生命周期的管理服务。底层是阿里云平台算力资源,神龙虚拟化技术,用户可以选择多种计算实例规格。

image.png

高性能计算公共云解决方案,通过全量上云,在云上搭建E-HPC,提供资源调度、作业管理、弹性伸缩等能力。

image.png
高性能计算混合云解决方案分为两种。第一种,调度节点在线下机房,资源不够时向线上扩容新节点。应用场景以本地建设为主,云上为满足突发业务需求。有利于快速满足突发需求,按需使用随时释放。


第二种,调度节点在E-HPC集群,同时管理线下已有计算节点。本地以有机房建设,但后续以云上建设为主。有利于利旧云下基础设施,逐步过渡。

image.png

生命科学大计算解决方案的CPU内存提供1:2,1:4,1:8实例,同时提供高主频实例。上层是E-HPC的资源调度管控。

image.png

在大内存实例性能优化解决方案中,E-HPC基于阿里云基础设施,为用户提供一站式公共云HPC服务,提供快捷、弹性、安全和与阿里云产品互通的技术计算云平台。HPC弹性伸缩,将MemVerge节点自动纳管,业务高峰扩容带有Memverge软件的ECS,低谷时释放,节省成本。


HPC作业调度带有MemVerge软件的大内存实例计算,在基因测序及EDA芯片设计场景,实现性能极致优化。


E-HPC+MemVerge软件+ECS i4p实例一键安装部署,在ECS上自动部署Memverge软件,解决每弹一台i4p部署一次Memverge软件的手动部署的繁琐低效问题。

image.png

在制药AI解决方案中,有数据采集,清洗标注,模型训练,模型部署与推理五个环节。阿里云ECC1G-10G的网络专线,解决采集数据上云。Oss对象存储支持海量数据存储,数据分发/归档。NAS/CPFS井行文件存储提供高吞吐、低时延,高达百GB/s吞吐和百万IOPS,多种I/O模型,大文件小文件混合型workload。

 

四、关键特性及方案优势

image.png

E-HPC的优势在于,快速创建云上的HPC集群。在云下,需要规划网络,软件初始化,账号处理。在云上,只需要半个小时,就能完成HPC集群的搭建。

image.png

HPC应用的性能分析,采用逐层分析、优化的方法。基于系统及进程函数指令、微服务架构、HPC应用,阿里提供各个层级的优化分析。

image.png

E-HPC自动伸缩支持跨数据中心,一个集群的计算资源可以在不同数据中心,满足大规模并行作业要求。计算资源的类型可根据HPC调度器队列灵活配置。

image.png

在数据全流程可视化中,作业前通过web页面或者SSH,登陆管控节点,进行操作。


在作业运行中,可以通过性能分析、进程分析,做资源的监控和管理。在作业的最后,可以通过阿里云资源的云桌面,做可视化的数据处理分析。

image.png 

E-HPC的优势在于丰富算力,自动伸缩支持跨数据中心,满足大规模并行作业要求。支持多规格异构算力,以及大内存型、高主频等规格CPU实例。


在成本方面,E-HPC可以动态创建/删除计算节点,按实际负载弹性计费。灵活配置伸缩策略,支持抢占式实例,支持跨可用区伸缩,降低客户使用成本。


在运维方面,E-HPC全面兼容HPC业务,自动多可用区集群搭建。提供作业运行性能分析,分别基于集群、实例、进程等维度定位热点。在新技术创新中,E-HPC提供生态SAAS、PAAS赋能,如GPU、FPGA、倚天等新产品的加持。

相关文章
|
1月前
|
人工智能 边缘计算 云计算
2024.11|云计算行业的商业模式创新方法及实践
截至2024年,全球云计算行业迈入全新阶段,从IaaS到大规模AI模型平台,技术与商业模式不断创新。本文分析全球最新技术进展,探讨云计算商业模式创新策略与实践,解析云服务厂商如何通过技术革新实现价值最大化,推动企业数字化与智能化转型。重点讨论AI与云计算的深度融合、边缘计算与去中心化发展、平台化与生态系统建设,以及数据安全与绿色云计算等关键议题。
101 30
|
2月前
|
数据采集 安全 数据处理
制造业、工程设计行业、创投行业的数据治理痛点与解决方案
关注监管政策动态:密切关注数据治理相关法律法规的发布和更新,及时调整企业数据治理策略,确保合规经营。
制造业、工程设计行业、创投行业的数据治理痛点与解决方案
|
存储 人工智能 运维
带你读《生命科学行业云上解决方案及最佳实践》——生命科学行业面临的痛点与挑战
带你读《生命科学行业云上解决方案及最佳实践》——生命科学行业面临的痛点与挑战
195 0
|
存储 弹性计算 运维
|
存储 安全 数据管理
教育行业,下一个被云服务颠覆的领域
前不久,正在上中学的儿子让老冀填一份调查表,老冀才知道他们学校正在通过专门的互联网平台,帮助孩子们在线补习英语口语。老冀再接着询问,发现他们有很大一部分的教学和作业,都已经通过网上来完成了。
191 0
教育行业,下一个被云服务颠覆的领域
|
Oracle 关系型数据库 云计算
医疗保健领域的云计算解决方案
本文研究全球及中国市场医疗保健领域的云计算解决方案现状及未来发展趋势,侧重分析全球及中国市场的主要企业,同时对比北美、欧洲、中国、日本、东南亚和印度等地区的现状及未来发展趋势
|
机器人
小贩新闻联播实力抢镜 | 助力智慧城市发展建设
央视指出“科技引领,助力高质量发展”,新一代智能机器人正在为我国发展助力,智慧型城市及智慧社区的建设将带动智能机器人的快速落地,形成新的经济增长点。
398 0
|
供应链
两大模型助力蚂蚁金服驱动养殖行业产业金融服务创新
2018云栖大会上海峰会ET农业大脑专场,蚂蚁金服高级业务拓展专家彭博带来以“数据驱动养殖行业产业金融服务创新”为题的演讲。农村金融一直是我国金融体系中最薄弱的环节,那么金融服务如何解决农村金融市场存在的问题,怎样更好地为“三农”服务,接下来即将揭晓。
2013 0