云场景实践研究第23期：掌慧纵盈

更多云场景实践研究案例，点击这里： 【云场景实践研究合集】联合不是简单的加法，而是无限的生态，谁会是下一个独角兽
借助“互联网+大数据+机场”三轮驱动，掌慧纵盈每年为6.4亿人次出行提供无线网络连接服务。随着业务的拓展，随之后来的挑战是数据量的暴增。2016年，掌慧纵盈通过阿里云产品，率先构建了业界领先的大数据平台。本文将具体分析掌慧纵盈如何选择阿里云E-MapReduce等产品来满足需求以及相应业务架构的实现。

“综合考察国内的云服务提供商，我们选择了阿里云，尤其是其E-MapReduce产品，购买之后，集群马上就创建好，Hive, Spark, HBase等开源大数据组件即刻可用。”

——艾佳

掌慧纵盈科技股份有限公司大数据平台架构师

---

采用的阿里云产品

---

为什么使用阿里云

希望通过云平台将基础设施安装运维外包。

大数据技术日新月异，希望组件版本能够及时更新。

外部商业环境迅速变化，希望计算资源可以动态增减，以节约成本。

希望以较低的成本获取相对专业的安全服务。

尽量使用开源组件，方便整体输出。

---

关于掌慧纵盈

掌慧纵盈是中国领先的全球数据网络服务商，2009年成立于北京，是集智能硬件、云平台、精准广告营销、商业大数据应用、全球数据漫游于一体的生态型移动互联网企业。掌慧纵盈以“联接能力”为核心，致力于为全球用户提供便捷、安全、稳定的无线网络服务；为行业伙伴输出高效的经营能力；为企业提供基于场景化的大数据营销解决方案。

---

为什么选择阿里云？

掌慧纵盈上云之路

综合考察国内的云服务提供商，掌慧纵盈选择了阿里云，尤其是其E-MapReduce产品，购买之后，集群马上就创建好了，Hive, Spark, HBase等开源大数据组件即刻可用。

首先在数据存储引擎上，以存储25TB的数据为基准，考察各个选项的性能和价格。从上图可以看出，针对离线分析来说，如果想用开源组件，可以考虑 Hive on OSS的模式，来存储近一年的数据。针对在线分析的场景，使用 HBase存储近三个月的数据，可以获得很高的性价比，这个方案可以多表联查，但是SQL的响应对场景敏感，不同复杂度的SQL响应时间是不一样的。如果希望响应时间恒定，可以考虑基于索引的方案，即 日志服务，缺点就是不能多表联查；如果想使用开源组件，可以自行在 ECS上搭建 ELK。

接下来在查询引擎选择上，掌慧纵盈使用一个基准SQL，方便对其响应时间进行横向对比，基准SQL如上图所示，结论是使用Phoenix基于HBase进行交互式查询，可以获得很满意的响应周期。

大数据平台的技术架构概览上图所示，图中几乎所有的服务和功能都是通过阿里云产品来实现的，其中开发测试环境也是基于 阿里云的ECS搭建的。从图中可以看出， 我们并不需要关心机房的电源、网络、虚拟化、硬盘更换等一系列基础设施问题，直接基于云平台，专注于我们自己的业务。

---

一般人我不告诉他（她）——阿里云产品的使用心得

E-MapReduce

阿里云的E-MapReduce是掌慧纵盈大数据平台的核心产品，其涵盖了 Hive, Spark, HBase, Storm等大数据领域核心的开源组件，还有 Phoenix, Presto等业界前沿的查询引擎，其 Zeppelin, Hue等交互组件也是开箱即用。

E-MapReduce所用的机器配置都很高，用来存储数据就可惜了，数据可以存储在OSS上，使用Hive加载即可。不过要使用HBase还是要把数据存到E-MapReduce上，一但放到E-MapReduce上，这个集群就不能随意销毁了。所以，我们实践当中将数据集群和计算集群分开，计算集群可以随时销毁和升级，数据集群需要长期稳定提供服务。这两种的集群配置也是不一样的，计算集群用SSD，主攻“快”，数据集群（HBase）用高效云盘，主攻“大”。

工单管理

使用阿里的云服务，最吸引人的就是工单服务。由于我们的运维团队会经常遇到复杂且需要紧迫解决的问题，团队成员可以直接通过工单请求阿里的工程师协助解决。沟通问题的过程也是我们学习的过程，我们向阿里云服务的工程师们学到了不少的东西。

软件视图

基于技术概览，掌慧纵盈技术架构中的软件视图如下所示：

为了管理方便，掌慧纵盈将所有ECS都去掉了外网带宽，统一走 SLB，共享SLB的外网带宽，包括SSH等所有应用的端口都是用SLB转发。SLB带宽不受限制，速度上来了，成本下来了。掌慧纵盈采用 包月加自动续费的模式，随时增减机器，随时增配减配。 ONS即阿里的日志服务，阿里内部叫 MQ，其响应时间很快，吞吐量很大，可以应用于实时性非常高的场景，例如实时竞价。 Log Service包含 Logtail，LogStore, LogHub，LogShipper和LogSearch服务，其中日志投递（ LogShipper）功能很有用，可以自动将采集的日志投递到OSS，这样就可以直接使用Hive加载了，不过目前只支持json格式。目前E-MapReduce已经提供了 Storm组件，想要使用此组件，有两个选择： 从日志服务消费；或者通过引导操作在E-MapReduce上安装Kafka，支持增加节点。 OSS主要用于存储，与E-MapReduce结合，实现了计算与存储的分离。 Zeppelin可以通过Web的形式使用 HiveQL, SparkSQL, Phoenix, Presto等对数据进行探索式和交互式的查询，而无需编程和登录SSH，并且可以保存过往的查询，还可以形成简单的柱状图饼图。

关于 掌慧纵盈的更多实践详情： 首次揭秘|为6.4亿人次出行提供无线网络的技术架构

原文发布日期：2016-12-29

云栖社区场景研究小组成员：丁匀泰，仲浩。