生命科学行业解决方案

简介: 本文整理自阿里云弹性计算产品解决方案架构马继雨(芦笋),在阿里云云计算情报局的分享。本篇内容主要分为四个部分:1. 行业综述2. 行业分析3. 云超算解决方案4. 关键特性及方案优势

生命科学行业解决方案



摘要:本文整理自阿里云弹性计算产品解决方案架构马继雨(芦笋),在阿里云

云计算情报局的分享。本篇内容主要分为四个部分:

1. 行业综述

2. 行业分析

3. 云超算解决方案

4. 关键特性及方案优势


 

一、行业综述

image.png

生命科学是研究生命现象、揭示生命活动规律和生命本质的科学。通常把服务于科学研究的企业所处的行业统称为科学服务行业,把服务于生命科学研究的企业所处的行业叫生命科学服务行业。生命科学技术是以分子遗传学为核心的先进科学技术。生命科学所要回答的首要问题就是“什么是生命”。


生命科学的主要领域是医药、生物、银行、基因等相关的一些领域。在市场中,息息相关的客户群体也主要是医院、研发、科研等。


image.png

整个行业的产业链分为上、中、下三层。


上游主要是设备的生产及软件研发,比赛默飞,华大都是较为有名的上游厂商;中游主要是以服务商为主;下游是医疗机构、科研场所、制药公司等服务。


由此可见,上游掌握着整个行业命脉。中游为面向终端用户的生命科学服务商为用户提供相应服务,从中收取服务费。下游则为服务使用者,其决定了中游服务细分赛道的市场容量、发展前景及业务模式特点。

image.png

以基因检测技术为例,二代基因测序是当前下基因检测最热门技术。主要为从血液或唾液中分析测定基因全序列,预测罹患多种疾病的可能性。


基因测序相关产品和技术已由实验室研究演变到临床使用,可以说基因测序技术是下一个改变世界的技术。与PCR和FISH技术相比,具有高通量、数据量大的特点。基因测序技术的缺点是操作复杂、对样本DNA浓度和纯度要求较高,且数据庞杂。


image.png


结合基因组学比较典型的业务,全基因组测序。人类基因组计划(HGP)历经13年,在2003年完成,使得整个基因测序领域发生了革命性的变化,随后很多政府资助的大规模测序计划也陆续启动,如1000基因组计划、10K计划等,极大推动了人类对基因变异、人类进化和基因疾病的研究及发现。


在计算机科学生信领域,基于GATK的全基因组测序流程则在现代基因测序中发挥着至关重要的作用。


在典型的基因组测序业务中,涉及应用软件数量繁多,且使用方式各异,也存在大量的串行化软件,典型的全基因组测序流程,有两个主要特征。


第一,执行时间长,常规流程及通用计算资源,一个人类基因组样本需要近1000核时进行处理。第二,数据量大,单个样本平均能产生1TB的中间数据。

因此,结合集群调度器提升并发效率、结合异构方案加速执行性能、基于容器部署不同业务镜像、存储的冷热数据备份,都已成为计算机生信领域主要的分析课题。

 

二、行业分析

image.png

传统超算方案,主要通过线下超算集群或者自建的机房对接。目前,主要面临三个问题。


用户资源老化过保后,资源复用及维护,需要投入大量的人力、财力。

业务的峰谷效应。因为资源有限,高峰期作业排队时间长,低谷期资源使用率低。


已有集群无法满足新增业务及技术创新的需要,可扩展性不足,采购周期比较长。

随着基因组的不断演进,计算科技的不断发展,传统基因组测序已经无法满足现有的业务的发展诉求。

image.png

对于传统的高性能计算业务流程,主要分为以下三个阶段,即业务前的处理,业务中的提交调度和执行,业务后的可视化分析。


如右上角,作业提交至调度器。调度器做线下机器的调度分发,根据作业运行配置和当前资源情况,调度适合的资源参与计算作业。

image.png

传统行业的方案有以下几个特点,扩展性不佳、性能瓶颈,管理维护难,新技术挑战。其中,较为明显的是性能瓶颈。高峰算力不足,作业排队时间长,严重影响业务。

在管理维护方面,投入成本较大,软件统一管控、安全保障、建设运维一体化的方案不够。

 

三、云超算解决方案

image.png

阿里云高性能计算产品E-HPC主要是软件服务,通过高性能计算业务习惯与云计算优势相结合。大规模集群部署与推理,弹性的使用资源,工作流从前到后的保障,作业调度运行的管理,多客户的安全隔离。性能剖析与调优。


HPC作为基础设施,符合高性能计算业务场景与可靠性的要求。计算、存储、网络,图形可视化,满足了用户极致的性能诉求,低延时的网络通信,大规模刚推送的并行文件系统。


在线性扩容方面,阿里云高性能产品联合生命科学行业三十多款应用,提供轻量级使用便利。对于征信行业,兼容众多市场主流征信软件,提供生命科学统一门户。


阿里云在pass层提供集群算力、弹性伸缩、多级缓存、商业管理、资源生命周期的管理服务。底层是阿里云平台算力资源,神龙虚拟化技术,用户可以选择多种计算实例规格。

image.png

高性能计算公共云解决方案,通过全量上云,在云上搭建E-HPC,提供资源调度、作业管理、弹性伸缩等能力。

image.png
高性能计算混合云解决方案分为两种。第一种,调度节点在线下机房,资源不够时向线上扩容新节点。应用场景以本地建设为主,云上为满足突发业务需求。有利于快速满足突发需求,按需使用随时释放。


第二种,调度节点在E-HPC集群,同时管理线下已有计算节点。本地以有机房建设,但后续以云上建设为主。有利于利旧云下基础设施,逐步过渡。

image.png

生命科学大计算解决方案的CPU内存提供1:2,1:4,1:8实例,同时提供高主频实例。上层是E-HPC的资源调度管控。

image.png

在大内存实例性能优化解决方案中,E-HPC基于阿里云基础设施,为用户提供一站式公共云HPC服务,提供快捷、弹性、安全和与阿里云产品互通的技术计算云平台。HPC弹性伸缩,将MemVerge节点自动纳管,业务高峰扩容带有Memverge软件的ECS,低谷时释放,节省成本。


HPC作业调度带有MemVerge软件的大内存实例计算,在基因测序及EDA芯片设计场景,实现性能极致优化。


E-HPC+MemVerge软件+ECS i4p实例一键安装部署,在ECS上自动部署Memverge软件,解决每弹一台i4p部署一次Memverge软件的手动部署的繁琐低效问题。

image.png

在制药AI解决方案中,有数据采集,清洗标注,模型训练,模型部署与推理五个环节。阿里云ECC1G-10G的网络专线,解决采集数据上云。Oss对象存储支持海量数据存储,数据分发/归档。NAS/CPFS井行文件存储提供高吞吐、低时延,高达百GB/s吞吐和百万IOPS,多种I/O模型,大文件小文件混合型workload。

 

四、关键特性及方案优势

image.png

E-HPC的优势在于,快速创建云上的HPC集群。在云下,需要规划网络,软件初始化,账号处理。在云上,只需要半个小时,就能完成HPC集群的搭建。

image.png

HPC应用的性能分析,采用逐层分析、优化的方法。基于系统及进程函数指令、微服务架构、HPC应用,阿里提供各个层级的优化分析。

image.png

E-HPC自动伸缩支持跨数据中心,一个集群的计算资源可以在不同数据中心,满足大规模并行作业要求。计算资源的类型可根据HPC调度器队列灵活配置。

image.png

在数据全流程可视化中,作业前通过web页面或者SSH,登陆管控节点,进行操作。


在作业运行中,可以通过性能分析、进程分析,做资源的监控和管理。在作业的最后,可以通过阿里云资源的云桌面,做可视化的数据处理分析。

image.png 

E-HPC的优势在于丰富算力,自动伸缩支持跨数据中心,满足大规模并行作业要求。支持多规格异构算力,以及大内存型、高主频等规格CPU实例。


在成本方面,E-HPC可以动态创建/删除计算节点,按实际负载弹性计费。灵活配置伸缩策略,支持抢占式实例,支持跨可用区伸缩,降低客户使用成本。


在运维方面,E-HPC全面兼容HPC业务,自动多可用区集群搭建。提供作业运行性能分析,分别基于集群、实例、进程等维度定位热点。在新技术创新中,E-HPC提供生态SAAS、PAAS赋能,如GPU、FPGA、倚天等新产品的加持。

相关文章
|
10月前
|
机器学习/深度学习 数据采集 传感器
自变量机器人参与成立RoboChallenge组委会 开源协作开启标准化新阶段
就在11月20日,智源研究院、智元机器人、Qwen、星海图、自变量、清华大学、西安交通大学,GOSIM 国际国内合作伙伴进一步携手,共同推动生态建设,并正式成立 RoboChallenge 组委会。这标志着具身智能真机测评的开源协作不仅迈入了标准化的新阶段,更以“开放共同体”的行业共创模式,为具身智能技术的落地与迭代注入新动能。
|
消息中间件 监控 测试技术
惊呆了!Python性能测试高手都用这些神器:JMeter+Locust,效率翻倍📈
【9月更文挑战第8天】在软件开发中,性能测试对确保应用稳定性和高效运行至关重要。对于Python开发者而言,选择合适的性能测试工具能显著提升测试效率并精准定位性能瓶颈。本文深入探讨了JMeter和Locust这两款工具的独特优势。JMeter作为跨平台的性能测试工具,支持多种协议,具备高度可定制性和扩展性;而Locust则专为Python应用设计,利用协程实现高并发,提供实时监控和分布式测试功能。两者结合使用,可在实际项目中实现1+1>2的效果,帮助开发者构建全面高效的测试方案,保障应用稳定运行。
1187 2
|
数据采集 存储 数据库
数据完整性验证
数据完整性验证
2068 3
|
11天前
|
人工智能 JSON API
全网刷屏的 Jev 模型正式开放!一手实战测评 + 保姆级教程
全网爆火的 Jev 模型是什么?有什么用?怎么使用?怎么接入 AI 编程工具?效果真的好么?傻子可懂的 Jev 保姆级实战教程 + 项目实战测评来啦
7886 14
|
10天前
|
人工智能 测试技术 API
最近全网爆火的 Jev 到底是什么?适合干什么、怎么用,一篇讲透!
Jev是TypeSafe AI推出的“系统一模型”,不生成文本,专做毫秒级结构化决策:Choice(多选)、Score(打分)、Noul(是非概率)。响应快193倍、成本低444倍,适合工单路由、内容审核、测试定级等高频判断场景。
1723 4
最近全网爆火的 Jev 到底是什么?适合干什么、怎么用,一篇讲透!
|
10天前
|
人工智能 并行计算 PyTorch
秋叶 ComfyUI 2026 整合包 v3.2 完整部署教程:Python 3.13 + Torch 2.13 全栈升级
秋叶aaaki ComfyUI 2026年8月整合包v3.2正式发布!全面升级Python 3.13.11、PyTorch 2.13.0+cu130及ComfyUI v0.30.2,原生支持MiniMax H3、Wan 2.2、Qwen-Image-2.1等2026主流音视频/图像模型,解压即用,无需环境配置。
1616 11
|
8天前
|
人工智能 编解码 并行计算
MiniMax-H3 一键整合包技术文档:8G 显存运行 AI 漫剧制作 —— 角色替换 / 动作迁移 / 文图生视频部署与调参指南
MiniMax H3 是 MiniMax 开源的全模态视频生成模型,支持文/图/音/视多条件输入,输出最高2K、15秒带双声道音频视频。本文档详述其Int8量化版在8GB显存下的本地一键部署、三段式工作流(EDIT/REPLACE/CONTINUE)、参数调优及常见问题排查。(239字)