徐葳:生物医学影像处理、分布式系统与数据共享平台-阿里云开发者社区

开发者社区> 大数据文摘> 正文

徐葳:生物医学影像处理、分布式系统与数据共享平台

简介:

640?wx_fmt=png


徐葳:谢谢组织者的邀请,我不是做图形图像的,我是做分布式系统的,这是我的简要经历。

640?wx_fmt=png
640?wx_fmt=png

我一方面在做科研,另一方面在做实践,我现在管着300台服务器,我的一些设计、想法都使得这些设备的运维变得更加容易。

640?wx_fmt=png

首先看一个图,我们做计算机系统的人脑海中存在的系统是长成这个样子的。

640?wx_fmt=png

今天讲影像我完全是客串,主要是因为我参加了三个跟影像有关的项目。我想让大家知道从外行的角度看我们怎么理解这件事情,我们希望能够从时间系统的角度来看怎么样帮助处理这些问题,然后我会从这些项目中引发出一个数据分享平台的想法跟大家探讨一下。


这是一个血管MRI的项目。清华影像中心收集了一批核磁共振的片子,并且请老师对片子中的血管壁进行了标注。带有标注的这类数据集是非常珍贵的,我们把这个边缘描出来,这个东西分辨率很低,而且总的数据量比较少,深度学习无法训练出有效的模型。


另一个角度讲,这个事情也比较简单,就是要识别一个圈,我们用feature学习的方法来解决。如果图中这个扇形区域覆盖了90%的亮度,我们就认为它是管壁。

640?wx_fmt=png

后来再仔细想,这个图像也是计算机描述出来的一种影像。血管壁外侧的肌肉组织会产生一些噪声,我们发现这个噪声和血管壁的亮度是两个高斯分布,非常漂亮的高斯分布。这个feature非常简单。

640?wx_fmt=png

从图中可以看出来训练的结果还行,他可以描述不同管壁的厚度,厚度的均匀程度也可以描述出来。


这个问题没有很大的技术含量,我也不认为这是一个非常难做的项目。但是它说明了一点,不见得任何问题都需要用深度学习来解决。feature学习非常快,结果准确率也不错。领域专家更容易想到有价值又简单的feature。而我们做计算机的,一般会想到更通用也更复杂的方法,未必能得到正确的思路。需要两方面更多交流。

640?wx_fmt=png

三维电镜重构,通俗易懂的解释就是采集了蛋白分子各个方向的投影图像,再把这些图像重构成一个三维模型,这个系统最核心的问题有两个:一是速度太慢,用几十个核的CPU运行它,要好几天甚至一个星期;二是没有容错机制,挂掉一个进程,整个计算都失败了。

640?wx_fmt=png

以运行的更快呢?系统本身是并行化的,图中是运行的效果。下面蓝色的部分是互相等待的时间,上面橙色的部分是运算的时间,平均每个核算的时间和平均每个核等的时间。大家可以看到从第二条线64核增加到第三条线128核之后,速度反而变慢了,这是由于CPU在等待的时间已经大大超过了运算的时间。我们对它的并行算法做了简单的优化,首先我们增加了同步数据时候的并行,这时我们得到了第四条线,蓝色的等待部分跟第二条线比减少了。我们进而减少了读写磁盘,改成了用网络同步,得到第五条线。我们可以看到,同样是128个CPU核,第五条线运行要快了不少。

640?wx_fmt=png

优化速度之后,我们依然不满意,因为这个架构中挂掉一个机器,整个系统就瘫痪了。系统规模越大,坏掉一个机器的概率越高,运行时间越长,这个概率也会增加。


这引出一个更广泛的问题,大数据在系统方面有没有技术上的贡献?大家会普遍认为有。但是从技术层面说,大数据用的方法大家不知道吗?好像大家过去也知道,其中并没有什么特殊的方法创新。但是大数据系统用的是非常便宜的机器,系统内任何一个机器宕机都不会影响整体的运行,这是谷歌设计MapReduce系统的核心。因为只有设备便宜才能跑成规模,价值密度低是大数据的典型特性,成规模的廉价设备使得处理海量价值密度低的数据成为可能。


我们现在反过来,能不能把大数据系统这个低成本的优势扩展到其他领域,例如科学计算可不可以也在更便宜的硬件平台上运行,我们希望在这个方向上能有所改进。我们现在正在做的事情就是把这个架构从MPI推到SPARK架构,增加系统的容错性。

640?wx_fmt=png

大数据的算法有一些特殊的优化,大数据算法的优化一般是让他怎么样跑的更快。现在有一些Mini-batch的算法,你不要每次都加载很多数据。我们还在做更为细致的实验,但我们认为这个方法在很多领域都是可以用的,在电镜图像重构这个领域也可以用。


上面是我介绍的第二个项目,在这个项目中我考虑的是大数据的基础架构能不能用在其他领域。这些领域不是典型的大数据领域,其数据量也不是很大,但是大数据提出的架构和设计思想怎么样能在这些领域中结合。

640?wx_fmt=png

我要给大家讲的第三个案例是一个有关果蝇的项目,这是我们和加州大学伯克利分校以及美国能源部劳伦斯国家实验室合作的。果蝇是非常重要的生物学模型,很多实验室都拿它做实验。


这个项目的本身的想法非常生物学,但是其中遇到的问题完全是操作系统管理和软件工程方面的事情。

640?wx_fmt=png

关于果蝇的生长已经研究的非常清晰了。随着成长果蝇的不同器官会顺序发育出来。果蝇的卵最初是是均质的,为什么会发育出不同的器官?上世纪八十年代科学家发现,这些相同的物质所处的地方不同会发育成不同的器官。如果使用激光把中间某一部位烧掉,这一部分对应的器官就不会长出来。右侧的图叫做Fate Map。Fate Map大家早就知道,但是产生这个图的原因至今还不清楚。

640?wx_fmt=png

基因在不同阶段表达的位置是不一样的。

640?wx_fmt=png

下面我要说的是一项非常值得尊敬的科学工作,做这个项目的实验室大概有二十个人,他们大概花了十多年的时间,一种一种基因染色,染色完了在显微镜下照出来,一种一种基因地做。过了十年之后,现在已经做到7971种基因,照了12万多张图片,12万多张是手工选出来的,每一种基因挑出看的稍微清晰一点的,可以从各个角度看的,这是一个非常珍贵的数据集。现在他们的工作加快了速度,因为他引入了机器人,机器人会自动筛选出比较好的照片。

640?wx_fmt=png

这里大家可以看到一些基因表达的位置。不同颜色代表了这种基因表达的多少。现在生物学家的问题是:这些东西有什么用?能不能从这些照片中找出一些规律?

640?wx_fmt=png

如果这个基因在这里表达,那么它是不是这三个pattern呢?其他基因也有这个pattern,这个pattern可能跟今后的器官发展有关吗?

640?wx_fmt=png

后来伯克利的团队使用非负矩阵分解的方法来处理这些图像,他们有很多的Factorization,每一种基因导致了Factorization有不同的线性组合,最终组合出如下图像。

640?wx_fmt=png

结果是一共产生21种pattern,这些pattern是有对应关系的,这些对应关系都具有物理含义。

640?wx_fmt=png
640?wx_fmt=png

这个项目是由一个跨学科合作团队来承担。包含了统计、生物学以及计算机系统方向。这三个方向缺一不可。

640?wx_fmt=png

刚才他说的这个东西为什么复杂?为什么需要计算机系统的团队来协助? 我们认为有以下三个主要问题。


第一个原因是数据的预处理。我们看图像处理或者计算机视觉的文章,它们一般会把预处理的部分省略掉。实际上这些文章的大部分时间是花在数据的与预处理上的,但是这些庞杂的预处理工作没有办法在文章上说。

640?wx_fmt=png

例如这个项目的另一个研究题目中,需要尝试不同的预处理用来找到superpixels。这个工作面对两个挑战:第一,太慢。第二,预处理的结果不能共享。

640?wx_fmt=png

第二个挑战是数据实验的管理。做过实验的人都知道,实验不是做一次就能成功的,每一个成功的实验背后都有无数次的尝试和结果的比对。哪个实验的结果更好是预先不知道的,这不但需要我们对每一组实验进行记录和标记,并且能够重现。例如上边讲的实验,里边的21是怎么来的?那是尝试了很多参数配置之后得出来的。如何管理这一次一次的实验,让这些实验变成可重复的,实验方法变成可重用可共享的?这也是我们需要解决的难题。

640?wx_fmt=png

第三点是我们需要,需要解决的问题是友好的交互界面。大家对比一下难学难用的大数据系统,和Excel的简洁界面,就不难看出为什么Excel真正的促进了跨学科跨领域以及商业上的交流了。

640?wx_fmt=png

现在大家所说的数据共享,基本上是指将数据放在一个平台上,大家都可以下载。这种数据的共享只是共享了数据,但是并没有共享数据处理的算法,比如说我可以下载一个APP,让这个APP能够提供数据处理的功能。不论哪个学科,他可以根据需要将不同算法组织起来,通过调整参数的方法解决数据处理的需求。

640?wx_fmt=png

另一个关键问题是共享的层次。要给什么人共享,算法的灵活的是多少,这些都是问题。这将决定共享的内容有哪些人喜欢,哪些人不喜欢。

640?wx_fmt=png

数据标签的共享也是非常重要的,这些标签能不能共享,标注的经验能不能积累,这也是需要考虑的问题。

640?wx_fmt=png

讲讲我们具体的解决方案。我们首先需要一个代码管理和数据管理的运行环境。

640?wx_fmt=png
640?wx_fmt=png

数据的历史可以共享,代码的变化和数据的变化都需要记录,另外需要提供在线编辑的功能。

640?wx_fmt=png
640?wx_fmt=png

第一,我们做系统的人希望做一个系统促进大数据领域的人互相交流。具体怎么交流是数据院的事,我提供技术的解决方案。第二,深度学习之前的时代和深度学习之后的时代,计算机的分析对系统的依赖是不同的,现在我们在探索深度学习的方法,也希望跟大家多沟通,看看需要什么样的系统架构的支持。


原文发布时间为:2016-01-22

本文来自云栖社区合作伙伴“大数据文摘”,了解相关信息可以关注“BigDataDigest”微信公众号

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
大数据文摘
使用钉钉扫一扫加入圈子
+ 订阅

官方博客
官网链接