金鑫:基因应用现状解析及华大基因的数据平台架构

简介: 回到10年前,2007年这个世界有基因数据的人不超过10个,那个时候读取一个基因数据需要上亿美金;10年后的今天,成本被降到了1千美金之内,同时基于人们对更高健康水平的需求,统计已按百万计。而着眼当下,基因研究主要可分3个维度。
+关注继续查看
前不久《金刚狼3:殊死一战》上映,在狼叔休·杰克曼的光环下,仅两周时间,全球票房已高达4.38亿美元,其中精彩的动作戏与狼叔的谢幕无疑是观众追求的热点。然而不管是《金刚狼》抑或是《X战警》,基因突变带来的超能力都是贯穿整个故事的基本元素。

基因科技是什么?时至今日相信大家都已经有了一定的了解,就比如孕妈妈熟知的无创基因检测,又比如说大量场景中用到的DNA亲权鉴定。然而,在这之外,日常生活中基因应用还有哪些方面?是否如电影《生化危机》、《我是传奇》那样遥远又恐惧?借用时下热门的云计算、大数据等技术基因研究这种全人类事业又会产生什么样的助力?近日,云栖社区采访了深圳华大基因股份有限公司研发中心副总监金鑫,就上述几个问题进行了讨论。

科研、医学、人人,基因的研究、应用与探索

10年后的今天,每个新生儿出生后记录的可能不仅是身高体重,还包括了他的基因数据——金鑫。

觉得不太可能?在惊讶的目光中,金鑫表示:回到10年前,2007年这个世界有基因数据的人不超过10个,那个时候读取一个基因数据需要上亿美金;10年后的今天,成本被降到了1千美金之内,同时基于人们对更高健康水平的需求,统计已按百万计。而着眼当下,基因研究主要可分为以下3个维度:

1. 科研的服务。类似大多新技术,基因研究最初也是在科学研究的基础上发展起来,比如寻找一些疾病的致病基因,又比如熊猫为什么不吃肉,通过研究熊猫的基因组会发现,其基因组例感受肉鲜味的基因“坏”掉了。

2. 医学的服务。在之前,医学实践之所以比较少用,原因在于技术上没有突破,同时缺少人类基因组参考序列。时下对于基因的研究已经有了更好的基础,同时成本也飞速下降,所以有了临床应用的可能,就比如生育健康、肿瘤相关、病源感染相关方面,也就是生死染:
  • 生,即生育健康,主要防控出生缺陷遗传病,例如唐氏综合征,发病率大约是800分之一,传统筛查会出现较高的假阳性,提示高风险,从而需要做侵入性检查,带来感染和流产的风险。然而通过基因检测技术,母体抽血就可以避免这种情况,从而对原本检查技术提供了很好的补充。
  • 死,即肿瘤,其最主要就是靶向药物的选择,因为时下治疗方案一般就是手术、化疗放疗及靶向药物,而靶向药的靶点一般都是基因的标记。因此在治疗方案之前,先就肿瘤组织进行检测,知道靶点后确定明确的治疗方案。当然,限于时下的医学水平,治愈还有很大挑战,但是却可以在控制上更推进一步,提高患者生存率或生存时间。
  • 染,即感染,病原微生物,就比如SARS,刚发生时无法得知前因后果,比如究竟是病毒、细菌还是其他,从而造成一定程度的恐慌。直到基因数据被读取,才清楚其病原体。
3.人人服务。在医学服务中的生育健康其实关乎到整个人口质量、社会负担及家庭负担。时下整个出生缺陷的发病率在5.6%,而华大基因的目标是使用基因技术,使出生缺陷发生率在此基础上降低50%以上。

在基因研究方面,华大基因、Intel、阿里云共同发起了一个2020计划,希望在2020年实现1个人的基因样本采集、处理、测序及初步分析在一天内完成。而在这中间,云一方面提供了海量的资源,加速计算和解读的过程,另一方面,让很多人可以同时对多个数据进行比较,从而更精准地解读。

海量数据、异地,基因研究与应用挑战

2016年3月10日之前,7年华大基因完成了100万例孕妇产检,然而在2016年底已超过170万,同时随着成本降低、人们思想进步、基因技术突破及二胎等政策推出,相信这个数据体量会愈来越大——金鑫。

一个人的基因组数据大约在3个G,为了得到精准的基因数据,通常需要进行几十上百不等次的冗余测讯,而做肿瘤基因检需要进行上万次。因此,联系具体业务,其存在的主要挑战有:
  • 海量数据。一直以来华大基因都在不断地扩展自己的计算集群,也有多个区域的生产中心,比如武汉,天津,也包括面向海外的香港,总部深圳也有自己的测序中心和对应的数据中心。以前,测序中心选址往往决定了数据中心方位,然而随着业务的飞速增长,硬件规模增长已无法匹配数据规模的增长,出现了很严重的任务积压。
  • 异地模式。基因研究更应该是一个多人、多基因序列的对比,然而基因数据本身体量比较大,限于现在的网络环境很难实现这一点。其次,如上所述,虽然有着多地多机房,但是随着任务量剧增,如果将数据在多机房来回切换显然也无法满足时效性。
基于上述挑战,华大基因通过阿里云为BGI Online(安全、⾼效、易⽤的⽣物信息服务云平台,为⽣物信息领域的各类科研工作者和工具开发者提供便利)注入弹性,同时也释放了每个数据中心部署耗费的大量人力、财力和物力,其总体架构如下:

a757a14aa3cbe7ebc85fd7f2999a23004f861a87

  • 前端通过WEB服务呈现系统业务和提供用户操作,WEB请求通过SLB做负载均衡,并在阿里云提供的VPC和云盾的防护下提供高可用的服务。
  • 后端管理系统的业务数据和处理业务逻辑,后端服务部署在多台ECS上,并采用RDS服务存储业务数据。
  • 任务管理引擎接受前端请求,管理计算资源实现生物信息数据的分析,阿里云提供了海量的ECS节点,并对每个ECS节点提供了完整、详细的API文档,通过对接ECS节点实现了计算资源的弹性伸缩和强大的分布式计算能力。
  • 存储管理负责基因数据的存储和管理,运用OSS和OAS实现了基因数据的冷热存储,除了OSS和OAS本身提供的加密存储外,还对接OSS服务实现数据的去身份化,提高了平台的安全性。
  • 文件传输通过部署在ECS上的服务提供,庞大的基因数据上云是数据流的起始端和瓶颈,阿里云通过铺设阿里机房到华大集群的专线,提升了数据传输的速度。
而就在去年,基于华大基因开发的新一代基因云计算平台BGI Online,华大基因、阿里云和安徽医科大学三方共同协作在21小时47分12秒内完成了1000例人类全外显子组数据的分析,创造了基因数据分析的“深圳速度”。

人人服务,基因研究未来的发展

基因行业还在非常早期,现在看到的就是一些非常确定的应用,和非常确定的结果——金鑫。

如果只有一份基因数据,能解释的事情非常少,同时在人的基因之外,动植物、甚至是微生物这些组成人类生活环境的因素同样需要分析。因此,去年建立了我国第一个也是唯一一个国家基因库(由华大基因承接和运营)。而在这之外,华大基因更与多家国际组织达成合作,比如IRDiRC国际罕见病研究联盟,也比如与费城儿童医院在儿童脑癌上的研究。

同时金鑫还表示,时下云计算、大数据、人工智能等技术同样会给基因研究带来很大的助力,比如在计算、存储之外,华大基因已与阿里云展开了大量机器学习相关方面的合作,比如说预测小米性状,通过小米的基因数据,种植环境来预判小米的产量、特性等。同时也正在与阿里云合作,通过更好的算法去预测肿瘤的驱动基因。

在最后,金鑫再次强调了基因研究上“我为人人”这个概念,他表示,就如BGI Online生物信息数据云平台,基于云基础设施能够搭建不同的基因数据分析场景,不同的人可以在上面搭建自己的分析流程,为⽣物信息领域的各类科研工作者和工具开发者提供便利。
相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
4月前
|
存储 机器学习/深度学习 分布式计算
当金融风控遇上人工智能,众安金融的实时特征平台实践
随着企业数字化转型升级,线上业务呈现多场景、多渠道、多元化的特征。数据要素价值的挖掘可谓分秒必争,业务也对数据的时效性和灵活性提出了更高的要求。在庞大分散、高并发的数据来源背景下,数据的实时处理能力成为企业提升竞争力的一大因素。今天分享的是众安金融实时特征平台实践。
99 0
当金融风控遇上人工智能,众安金融的实时特征平台实践
|
5月前
带你读《生命科学行业云上解决方案及最佳实践》——计算机助力基因测序
带你读《生命科学行业云上解决方案及最佳实践》——计算机助力基因测序
58 0
|
5月前
|
机器学习/深度学习 人工智能 并行计算
带你读《生命科学行业云上解决方案及最佳实践》——GHDDI,阿里云高性能计算助力 药物研发实现高通量分子筛选
带你读《生命科学行业云上解决方案及最佳实践》——GHDDI,阿里云高性能计算助力 药物研发实现高通量分子筛选
103 0
|
5月前
|
存储 数据采集 开发框架
数智洞察丨聆听数据思维“双声道”:数据战略与数据能力解析
编者按: 大数据应在社会中扮演什么样的角色?有人说数据是一种资源,大数据是新时代的“石油”;也有人认为数据是类似于土地的资产,其更多的价值来自所带来业务的指数级增长。而互联网之父蒂姆·伯纳斯·李提出的观点是“数据是一种公共基础设施”,强调数据作为基础将支撑起一个城市的创新体系。本期内容我们将从数据战略与数据能力入手,深度剖析数据思维首要解决的两大问题。 本文约3532字,建议阅读时间9分钟。
|
人工智能 运维 监控
推进流程挖掘技术发展,信通院首轮流程挖掘评测预报名正式启动
中国信通院首轮流程挖掘评测预报名工作,正式启动。
112 0
推进流程挖掘技术发展,信通院首轮流程挖掘评测预报名正式启动
|
存储 安全 关系型数据库
【阿里云新品发布·周刊】第23期:阿里云基因行业解决方案技术解读,助您轻松应对基因数据分析难题
点击订阅新品发布会! 新产品、新版本、新技术、新功能、价格调整,评论在下方,下期更新!关注更多内容,了解更多 [最新发布] 阿里云基因行业产品解决方案 2019年8月28日14:00,阿里云召开了基因行业产品解决方案全新技术解读的发布会。
1968 0
【阿里云新品发布·周刊】第23期:阿里云基因行业解决方案技术解读,助您轻松应对基因数据分析难题
华大基因回复深交所:“14万中国人基因大数据”项目与外方机构无关
华大基因表示,这一项目由中国科研团队在境内完成,且并无个人隐私泄露风险。
406 0
推荐文章
更多