X86 vs ARM 架构同台竞技: 生物大数据大规模并行计算(如何将WGS全基因组计算成本降到1美元)

简介: Sentieon DNAseq 实施的全基因组测序 (WGS) 二级分析流程与行业标准的 BWA-GATK 最佳实践流程结果相匹配,且运行速度提高了 5-20 倍。Sentieon软件安装简单,开箱即用,并且提供了与ARM和x86指令集适配的版本。使30X WGS 数据样本在OCI 实例上的计算成本压缩到每个样本 1 美元以下,处理时间缩短到近一小时。

背景介绍

基因组序列分析是生命科学和医疗保健行业领域的重要组成部分,是众多技术突破的关键。随着生命数字化时代的来临,为了解决大数据带来的速度与费用问题,在云计算平台进行流程的分析及计算是目前较流行的方案。然而大部分用户通常直接采用了未优化的软硬件配置,导致样本分析成本过高。因此,如何在云平台上选择合适的硬件配置,从而平衡计算成本与分析速度,成为了值得探索的问题。

为此,Oracle甲骨文云发布了相应的评测文章,该测试项目使用了OCI提供的最新的 ARM 和 x86计算实例,利用OCI硬件资源分配与优化机制,搭配Sentieon软件进行了一系列的运算耗时和云成本估算的基准测试。旨在为用户实现全基因组二级分析的高效计算和低成本的最佳平衡。

在分析流程上,该项目选择了Sentieon DNAseq(v202112.01)流程作为软件方案。Sentieon DNAseq 作为行业金标准 BWA-GATK 的直接替代品,不仅能提供与 BWA-GATK 流程一致的分析结果,而且灵活性强,运行速度更比GATK 快 5-20 倍。

我们将在本篇文章中详细展示测试细节和深度分析,供生物大数据分析研究人员参考。

测试细节

测试环境

该项目测试工作使用了OCI提供的最新的AMD、ARM 和 Intel处理器。下表为各个云计算实例的配置情况。相比于其他云计算服务平台,OCI的优势之一是允许用户灵活指定所需的CPU线程数,内存数,存储以及输入/输出,从而达到与应用流程的最佳适配和最优的使用成本。

image.png

测试设置

测试的分析流程使用了与行业金标准的BWA-GATK 结果匹配的Sentieon DNAseq流程。该项目对七组 WGS 数据进行了基准测试和成本估算分析,测试结果发现所有数据集的运行时间和计算成本特征都表现相似。因此,测试结果的分析将重点关注其中的两个数据集,分别为 Illumina HiSeq X 和Illumina NovaSeq 系统测出的 30X HG002 数据(无 PCR 样本)。

在参考基因的选择方面,相比于GRCh37版本,GRCh38版本参考基因组可显著提升序列的完整性和准确度,已作为业界标准被广泛采用。因此该项目采用了 GRCh38 作为参考基因(包括primary contigs以及额外的decoy contigs,不含ALT contigs或者HLA基因);Benchmark分析流程以FASTQ 文件作为输入并生成 VCF 输出文件,流程步骤包括比对、排序、重复数据的删除、BQSR 及变异检测。

测试结果

测试项目依据不同的线程数,内存,以及存储资源的申请,创建了共计11个测试实例,具体配置以及计算成本的评估结果如下表所示。

image.png说明:WGS 分析中涉及的其他操作,例如作业执行脚本的设置、输入数据的上传与输出数据的下载等,这些额外步骤所消耗的资源成本将分摊到各个测试实例上(表 2 中的评估数据不包含这部分的资源成本,也不包含生产云计算操作所需的其他资源成本,以及 Sentieon DNAseq 许可证成本)。另外这里额外增加了 0.0171 美元或 0.0457 美元,以对应 500-GB 或 1000-GB 存储系统的每小时资源成本。

测试结果显示,Sentieon DNAseq在OCI的大部分ARM实例上实现了30x WGS的整体分析成本低于1美元,最低在ARM-S实例上处理NovaSeq 30x WGS成本0.9美元。

image.png

资源监控

OCI极佳的资源可调性确保了用户在配置全基因组以及其他分析流程时,可以找到速度与成本的最佳平衡点。同时OCI平台的控制面板也提供了资源监测工具,帮助用户确认所调用的运算资源是否匹配流程所需。如下图所展示的,是在VM.Standard.A1.Flex实例上运行全基因组分析时运算资源的表现。

image.png我们知道在全基因组的二级分析流程中,比对和变异检测步骤主要依赖CPU的运算,而排序以及去重则是I/O需求较重的步骤。由测试结果可知,Sentieon DNAseq 流程工作时,在大部分时间段内的内存利用率均保持 90%左右,CPU 利用率近乎100% ,只有在排序和去重步骤时稍低;这一结果与我们的预期一致。而在 IO 密集的工作阶段,磁盘I/O峰值已达到了 240 MB/s 的硬件限制。由此说明,Sentieon DNAseq流程工作时可充分利用OCI平台提供的所有可用的硬件资源,实现最佳的运行效率。

CPU性能

Sentieon DNAseq 可以通过在多台服务器上利用更多的 vCPU并行运行,以进一步提高分析速度。此外,由结果可观察到尽管 ARM 处理器不支持超线程,但其仍可提供与 x86 相比具有竞争力的性能表现。

内存性能

为了准确地评估生产环境下测试机器的 I/O 能力,该测试项目中保留了 WGS 分析通常需要的所有关键输出文件,其中 NovaSeq 样本生成了大约 90 GB 的结果文件,而 HiSeq 生成了 120 GB 的结果文件。另外,测试发现,当磁盘容量(及相应的吞吐量性能)从 500 GB (240 MB/s) 增加到 1000 GB (480 MB/s) 时,程序 I/O 速度也有所提高。

可扩展性

将“通量”定义为每天能够处理的30x全基因组数据的个数,下图展示了不同实例的通量与所用线程的关系。其中 AMD-X shape 每天可以处理 32 个 30X 数据集,而 ARM-S shape 只能处理 10 个数据集。

同时,该图还展示了 Sentieon DNAseq 程序的可扩展性。由图可知,通量与所用线程成正比,表明 Sentieon DNAseq 扩展性优异,可最大程度地利用可用硬件资源。

image.png结论

  • OCI 提供的最新 ARM 实例能够很好的处理全基因组测序 (WGS) 二级分析类型的计算密集型和I/O 密集型的 HPC任务。此外,凭借 ARM 强大的计算速度和及更低的成本优势,OCI 的 ARM 实例可为用户提供性价比最佳的解决方案, 30X WGS 数据样本的FASTQ-to-VCF 分析,计算成本不到 1 美元。
  • OCI平台可精确调节各项运算资源,可有效减少资源浪费,降低了用户的计算成本。
  • Sentieon DNAseq 实施的全基因组测序 (WGS) 二级分析流程与行业标准的 BWA-GATK 最佳实践流程结果相匹配,且运行速度提高了 5-20 倍。
  • Sentieon软件安装简单,开箱即用,并且提供了与ARM和x86指令集适配的版本。使30X WGS 数据样本在OCI 实例上的计算成本压缩到每个样本 1 美元以下,处理时间缩短到近一小时。

参考信息

Sentieon软件中文网站:https://www.insvast.com/sentieon

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
7月前
|
存储 调度 C++
16 倍性能提升,成本降低 98%! 解读 SLS 向量索引架构升级改造
大规模数据如何进行语义检索? 当前 SLS 已经支持一站式的语义检索功能,能够用于 RAG、Memory、语义聚类、多模态数据等各种场景的应用。本文分享了 SLS 在语义检索功能上,对模型推理和部署、构建流水线等流程的优化,最终带给用户更高性能和更低成本的针对大规模数据的语义索引功能。
583 59
|
9月前
|
存储 数据挖掘 BI
2-5 倍性能提升,30% 成本降低,阿里云 SelectDB 存算分离架构助力波司登集团实现降本增效
波司登集团升级大数据架构,采用阿里云数据库 SelectDB 版,实现资源隔离与弹性扩缩容,查询性能提升 2-5 倍,总体成本降低 30% 以上,效率提升 30%,助力销售旺季高效运营。
557 9
|
12月前
|
存储 机器学习/深度学习 数据库
阿里云服务器X86/ARM/GPU/裸金属/超算五大架构技术特点、场景适配参考
在云计算技术飞速发展的当下,云计算已经渗透到各个行业,成为企业数字化转型的关键驱动力。选择合适的云服务器架构对于提升业务效率、降低成本至关重要。阿里云提供了多样化的云服务器架构选择,包括X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器以及高性能计算等。本文将深入解析这些架构的特点、优势及适用场景,以供大家了解和选择参考。
1504 61
|
运维 分布式计算 Kubernetes
【能力比对】K8S数据平台VS数据平台
杭州奥零数据科技有限公司成立于2023年,专注于数据中台业务,维护开源项目AllData并提供商业版解决方案。AllData提供数据集成、存储、开发、治理及BI展示等一站式服务,支持AI大模型应用,助力企业高效利用数据价值。
【能力比对】K8S数据平台VS数据平台
|
12月前
|
机器学习/深度学习 存储 分布式计算
数据科学 vs. 大数据:一场“烧脑”但有温度的较量
数据科学 vs. 大数据:一场“烧脑”但有温度的较量
401 2
|
人工智能 自然语言处理 数据可视化
两大 智能体框架 Dify vs Langchain 的全面分析,该怎么选?资深架构师 做一个彻底的解密
两大 智能体框架 Dify vs Langchain 的全面分析,该怎么选?资深架构师 做一个彻底的解密
两大 智能体框架 Dify vs Langchain 的全面分析,该怎么选?资深架构师 做一个彻底的解密
|
11月前
|
存储 关系型数据库 MySQL
成本直降30%!RDS MySQL存储自动分层实战:OSS冷热分离架构设计指南
在日均订单量超500万的场景下,MySQL数据年增200%,但访问集中在近7天(85%)。通过冷热数据分离,将历史数据迁移至OSS,实现存储成本下降48%,年省72万元。结合RDS、OSS与Redis构建分层架构,自动化管理数据生命周期,优化查询性能与资源利用率,支撑PB级数据扩展。
751 3
|
并行计算 PyTorch 算法框架/工具
融合AMD与NVIDIA GPU集群的MLOps:异构计算环境中的分布式训练架构实践
本文探讨了如何通过技术手段混合使用AMD与NVIDIA GPU集群以支持PyTorch分布式训练。面对CUDA与ROCm框架互操作性不足的问题,文章提出利用UCC和UCX等统一通信框架实现高效数据传输,并在异构Kubernetes集群中部署任务。通过解决轻度与强度异构环境下的挑战,如计算能力不平衡、内存容量差异及通信性能优化,文章展示了如何无需重构代码即可充分利用异构硬件资源。尽管存在RDMA验证不足、通信性能次优等局限性,但该方案为最大化GPU资源利用率、降低供应商锁定提供了可行路径。源代码已公开,供读者参考实践。
1294 3
融合AMD与NVIDIA GPU集群的MLOps:异构计算环境中的分布式训练架构实践
|
存储 机器学习/深度学习 算法
阿里云X86/ARM/GPU/裸金属/超算等五大服务器架构技术特点、场景适配与选型策略
在我们选购阿里云服务器的时候,云服务器架构有X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器、高性能计算可选,有的用户并不清楚他们之间有何区别。本文将深入解析这些架构的特点、优势及适用场景,帮助用户更好地根据实际需求做出选择。
|
存储 机器学习/深度学习 应用服务中间件
阿里云服务器架构解析:从X86到高性能计算、异构计算等不同架构性能、适用场景及选择参考
当我们准备选购阿里云服务器时,阿里云提供了X86计算、ARM计算、GPU/FPGA/ASIC、弹性裸金属服务器以及高性能计算等多种架构,每种架构都有其独特的特点和适用场景。本文将详细解析这些架构的区别,探讨它们的主要特点和适用场景,并为用户提供选择云服务器架构的全面指南。
1252 18