映客高级技术总监黄继:7天从开发到上线,云上高效运维实践与探索

简介: 2021云栖大会上,映客高级技术总监黄继为大家阐述映客团队如何在较短时间内快速完成业务的开发,同时还要保障业务上线后的稳定运行、快速扩展、访问质量和数据化运营等方面的经验。

2021年10月22日,在云栖大会的《云上运维最佳实践》分论坛,映客高级技术总监黄继发表了主题为“7天从开发到上线,云上高效运维实践与探索”的演讲,为大家阐述映客团队如何在较短时间内快速完成业务的开发,同时还要保障业务上线后的稳定运行、快速扩展、访问质量和数据化运营等经验。


本文根据他的演讲整理而成,主要分为三个部分:

一、映客业务的效率问题与挑战

二、应对思路与实践探索

三、未来方向与规划


image001.png

图:映客高级技术总监黄继


映客业务的效率问题与挑战


说到映客,在大部分人理解或认识里,映客就是一个直播的平台。但实际上,映客是有一系列泛娱乐化的各种APP,比如有在线相亲、香港地区的电商直播、陌生人的音视频社交等。截止到目前为止,映客大约有40个业务在线运营。


在映客内部,我们非常鼓励去做新赛道探索和内部创业。所以,我们每年都还会有十多个新的业务被立项、开发和投入上线。在这个大的背景下,时间和效率对我们来说至关重要


image003.png


在时间短这个前提下,对我们主要造成的问题或者一些挑战就来自于这三个方面:


1. 业务需快速做功能迭代。尤其在APP上线初期,有大量的业务需求和功能去完善,我们需要一个比较完善的工具平台和智能化体系。


2. 验证周期短。在数据运营方面,大部分产品在上线之初就设计好了付费、盈利的模式。所以产品会在非常短的时间周期内进行验证。只要验证可行,就会马上转入流量推广和增长获客的阶段。


3. 服务质量。因为我们业务验证周期很短,在这个周期之内,很可能会遇到突发的用户新增。所以我们希望所有的用户,都有比较好的用户体验。这就要求在业务刚上线的初期,在稳定、访问速度等方面,要达到成熟业务的标准。


image005.png


在刚开始的时候,我们大部分产品的必要功能就很多,比如支付、审核、用户触达等。这些功能在初期就是必备功能,涉及到很多团队,需要多方去沟通和对接;其次,内部的流程有时候也会影响工作效率;在服务质量方面和数据运营方面,初期没有什么投入,大家的精力基本都在功能上。  


如果说把这些问题都拉到一个比较长的周期来看,其实不是太大的问题。但在我们的场景里,我们希望在业务上线的时候就已经解决了这些问题,或者能够尽快解决这些问题。


image007.png


我们的解决思路大致分为四个维度:

1. 敏捷,努力完善我运维体系和服务治理体系,从而加快内部的迭代效率;

2. 解耦,通过解耦让业务更加的纯粹,只需要关心自己的业务逻辑;

3. 复用,这么多业务中有一些功能是相同的,把这些功能作为公共服务提供;

4. 场景化,比如说用户注册之后,会涉及到风控、审核、数据可视化和用户触达等。我们把部分能力做了整合,让它在快速获得这些能力。


image009.png


我们给自己定了一些目标和口号,比如我们的目标是“711”,口号是“让业务更专注业务”。“711”意思是7个双端的研发可以在1周时间开发上线1个APP。具体实践的过程是:

首先,提前做统一的资源管理;

其次,在内部所有的业务之间统一服务架构;

第三,做标准的公共服务组件;

最后,沉淀我们自己的业务场景和闭环。


image011.png


应对思路与实践探索


下图是我们应对思路与实践探索示意图,底层主要是统一资源的管理,上面两层是为服务端和客户端提供的开发框架的服务组件,横向部分是将第三方服务和我们自己内部的服务去做一些场景提炼和沉淀。


image013.png


最早,我们先从统一资源管理开始做,其中公有云也提供了一些管控的能力。但为什么我们还要考虑自己来做呢?


image015.png


1.多云支持。这里最早是为了解决服务质量,在发生故障时方便做热备切换。

2.去差异化。如果云扩展了,相互之间会有不同和差异。对于业务层,我们需要把这些差异做到屏蔽,让他们觉得平滑和透明。

3.自有体系。在这个基础上更容易建立自己的自有体系,包括运维自动化的体系和服务管理的体系。

4.成本管理。因为我们需要在很早阶段就做更精细的成本管控,所以我们需要看APP的维度,去看大家的费用消耗或者资源使用情况。


image017.png


上图是当前所有的运维工具和平台的体系。右边最下面是CloudAPI层,我们把所有公有云提供的资源,只要能支持API接口的都做了接入。在这个基础之上,按资源的分类去做相对应的管理工具和平台,包括安全组,因为它的变更频率非常高,所以我们对安全组做了抽象和重新设计,还有一个对应的管理平台。这些资源一旦被开通和投入线上使用,都会和我们自己的服务树做关联绑定。


这棵服务树就是右边黑色的图,在这个树上按照产品、子系统、功能模块进行业务拆分。因为这个树上记录了每个业务和资源的对应关系,所以服务树和内部其他的系统进行关联和联动。


比如与监控系统联动,可以实现监控自动地添加和删除。这棵树不但是运维管理的基础视角,还是内部其他系统数据源。所以它的信息需要准确及时,不能是静态或者手动回复。那么我们如何动态维护和管理这棵树呢?我们通过和上层服务治理结合的方式实现。


image019.png


先介绍一下自动化运维里三个基本的概念。

首先是Service Tag,即微服务模块。当它横向排列展开时就是如图的字符串。在这个字符串里包含了子系统的信息、服务系统的信息、模块的名字。如果把它竖向排列,就和服务树一样,它很多时候可以通过这个Tag生成服务树。

再往上是service Name,包含服务名字、子系统。这两个有相似性,本质是一个东西,只是一长一短。长的这一块更偏向资源和运维管理,短的这个更偏向服务应用。

再往上就是Appid,即业务的标识。Appid下关联了很多业务属性,比如业务的负责人,相关的业务属性等。

这三个基础的概念,底层有一个关联的逻辑关系,可以梳理业务下面的服务,服务所关联的资源。这三个是一一对应的关系。我们所有的自动化运维体系围绕这三个来展开的。


image021.png


具体运行的模式,这里简单跟大家介绍一下。如果创建了一个新的业务。它首先在映客云平台上立项添加;然后生成和业务对应的属性;其次,通过一些接口或者生成工单的形式通知运维平台做基础资源的准备。


同时,研发可以开展代码开发的工作。在代码开发的同时,它需要先到KAE平台创建和生成serviceName和serviceTag的字符串。当这个业务在平台发布线上之后,业务和资源的对应关系会自动生成关联到树上。基于服务树,我们进一步做自动监控,基于KAE平台进一步做远程配置、流量录制。同时业务还会生成一些源数据给大数据做计算分析。生产数据也利用service和Appid信息去决定生产到什么样的队列,去做一些隔离和优先级划分等等,最后落地到大数据。


业务在最初创建时,会和我们的数据平台去做关联。当源数据生成之后,对应的数据就能可视化,和APP相关的数据都会和映客云做一个关联。


image023.png


为了让所有业务都能遵守这样的机制,我们提供了统一的一套开发框架。这套框架提供了一些能力,包括日志、监控上报等基础功能。围绕这个框架,我们也做了周边的脚手架,以便快速生成一个项目。对于整个框架依赖的公共资源,我们抽取出来进行集中的统一管理和运维。


image025.png


下一阶段做一些通用公共服务组件的提炼,包括短信、推送、加解密、埋点等服务。这些都变成公共服务,并且尽可能让它实现自助对接。我们在客户端也同样做了类似的事情,比如热修复、网络优选、通用埋点。我们都提供一个公共的能力。


image027.png


包括对于一些第三方,我们也做了一些提炼。这个设计图底层就是音视频SDK所提供的能力,在高阶应用接口这一层,我们按照房间操作和使用角度去提供接口。通过这样的方式,我们去实现底层SDK接口快速切换,来做到对业务层更加透明


image029.png


在业务场景化这一块,我们内部主要在使用的是用户、金融、IM这三块。比如用户,我们对基本的注册/登录,风控、推广投放和数据可视化能力进行了整合。


image031.png


这些整合过的能力,我们尽可能让它自助配置,自助的对接。我们现在设计的一个目标就是每个组件可以在30分钟内完成接入,达到可连调的条件。


image033.png


经过上面几个阶段的发展之后,们主要的变化和收益在研发人员这边

一是他们可以跨业务的灵活迁移。比如说这个项目要去做了,它可以快速从其他产品里抽调人手。如果不做了,这些人可以快速分散到其他业务里;

二是他们更多时间是聚焦在业务逻辑上,所以可以降低一些经验要求在业务端,我们对业务可以减少开发的工作量;很多组件可以快速对接,我们目前大部分都可以做到30分钟-1小时完成;

三是底层服务升级更加透明,而且这些服务有专人维护,更加成熟稳定,避免业务之间重复踩坑。最后是一些默认的功能整合。


image035.png


我们整套体系从最初100%基于公有云来去搭建和建设,某种程度上也符合最近比较流行的云原生理念。在上图,左边是初期已经开始在用的一些服务,右边是随着现在公有云产品越来越丰富和完善,我们也陆续用了更多的一些能力。大家在准备上云,或者在云上运维里,不可避免都会遇到类似这样的问题,比如说云的定位是什么?云上产品越来越丰富,到底直接使用还是考虑自研?云需不需要去做混合云,或者做多云架构?我觉得这个需要根据业务和场景来做具体的分析和决策。


image037.png


我个人认为这些问题在可控性、迁移性和低投入,这三个角度去寻找平衡。而这三个角度某种程度上点像一个不太严谨的CAP理论。只能占有两个,牺牲掉一个或者放弃掉其中一个。在映客最初的定位里,我们更多侧重在可控性和可迁移性上。


image039.png


未来方向与规划


针对未来,我们要做的一些事情。


首先持续建设多云热备架构,以及迁移能力的加强,这方面主要考虑是服务质量。随着公有云本身的稳定性和可用区域越来越多。这件事情变成一个重要,但不紧急的事情。但是对于一些大面积故障,或者区域性故障,我们仍然是不可接受的。


其次中台化相关的能力,主要针对海外。因为我们越来越多的业务开始去探索海外市场。这一块我们的积累沉淀还很少。


最后更多的场景化。让业务可以更简单,比如客服或者智能投放的能力。

相关文章
|
14天前
|
运维 监控 持续交付
自动化运维在现代数据中心的应用与实践####
本文探讨了自动化运维技术在现代数据中心中的应用现状与实践案例,分析了其如何提升运维效率、降低成本并增强系统稳定性。通过具体实例,展示了自动化工具如Ansible、Puppet及Docker在环境配置、软件部署、故障恢复等方面的实际应用效果,为读者提供了一套可参考的实施框架。 ####
|
14天前
|
运维 监控 Devops
自动化运维实践:打造高效的DevOps流水线
在软件开发的快节奏中,自动化运维成为提升效率、确保质量的关键。本文将引导你理解自动化运维的价值,通过实际案例分享如何构建一个高效、可靠的DevOps流水线。我们将从持续集成(CI)开始,逐步深入到持续部署(CD),并展示代码示例来具体说明。准备好让你的运维工作飞跃式进步了吗?让我们开始吧!
|
14天前
|
人工智能 运维 自然语言处理
智能化运维:AI在IT运维领域的深度应用与实践####
本文探讨了人工智能(AI)技术在IT运维领域的深度融合与实践应用,通过分析AI驱动的自动化监控、故障预测与诊断、容量规划及智能决策支持等关键方面,揭示了AI如何赋能IT运维,提升效率、降低成本并增强系统稳定性。文章旨在为读者提供一个关于AI在现代IT运维中应用的全面视角,展示其实际价值与未来发展趋势。 ####
85 4
|
16天前
|
机器学习/深度学习 数据采集 人工智能
智能化运维在企业IT管理中的应用与实践####
本文深入探讨了智能化运维(AIOps)的核心技术原理,通过对比传统运维模式,揭示了AIOps如何利用大数据、机器学习等先进技术提升故障预测准确性、优化资源分配及自动化处理流程。同时,文章详细阐述了智能化运维平台的实施步骤,包括数据收集与分析、模型训练与部署、以及持续监控与优化,旨在为企业IT部门提供一套切实可行的智能化转型路径。最后,通过几个典型应用案例,如某大型电商平台的智能告警系统和金融企业的自动化故障排查流程,直观展示了智能化运维在实际业务场景中的显著成效,强调了其在提升运维效率、降低运营成本方面的关键作用。 ####
41 4
|
17天前
|
数据采集 机器学习/深度学习 人工智能
智能运维在IT管理中的实践与探索
【10月更文挑战第21天】 本文深入探讨了智能运维(AIOps)技术在现代IT管理中的应用,通过分析其核心组件、实施策略及面临的挑战,揭示了智能运维如何助力企业实现自动化监控、故障预测与快速响应,从而提升整体运维效率与系统稳定性。文章还结合具体案例,展示了智能运维在实际环境中的显著成效。
41 4
|
20天前
|
机器学习/深度学习 数据采集 人工智能
智能化运维:从自动化到AIOps的演进与实践####
本文探讨了智能运维(AIOps)的崛起背景,深入分析了其核心概念、关键技术、应用场景及面临的挑战,并对比了传统IT运维模式,揭示了AIOps如何引领运维管理向更高效、智能的方向迈进。通过实际案例分析,展示了AIOps在不同行业中的应用成效,为读者提供了对未来智能运维趋势的洞察与思考。 ####
50 1
|
27天前
|
运维 监控 持续交付
云计算环境下的运维自动化实践
本文探讨了在云计算环境下实施运维自动化的必要性、挑战及解决方案,重点介绍了如何利用现代技术工具实现高效的云资源管理和监控。通过具体案例分析,展示了自动化运维在提升系统稳定性、降低人力成本方面的优势。
|
23天前
|
数据采集 机器学习/深度学习 人工智能
智能运维在IT管理中的实践与探索####
【10月更文挑战第21天】 本文深入探讨了智能运维(AIOps)技术在现代IT管理中的应用,通过分析其核心组件、实施策略及面临的挑战,揭示了智能运维如何助力企业实现自动化监控、故障预测与快速响应,从而提升整体运维效率与系统稳定性。文章还结合具体案例,展示了智能运维在实际环境中的显著成效。 ####
|
26天前
|
数据采集 机器学习/深度学习 运维
智能运维在IT服务管理中的实践与挑战####
本文深入探讨了智能运维(AIOps)在现代IT服务管理中的应用,通过分析其如何提升效率、预测故障并优化资源分配,阐述了智能运维的实施策略与面临的主要挑战。不同于传统摘要,本部分旨在直接概述文章的核心观点与结论,为读者提供快速了解全文主旨的窗口。
|
1月前
|
运维 监控
构建高效运维体系:从理论到实践
在当今快速发展的信息化时代,高效的运维体系是保障企业信息系统稳定运行的关键。本文旨在探讨如何构建一个高效、可靠的运维体系,通过分析当前运维面临的挑战,提出相应的解决策略,并结合实际案例,展示这些策略的实施效果。文章首先介绍了高效运维的重要性,接着分析了运维过程中常见的问题,然后详细阐述了构建高效运维体系的策略和步骤,最后通过一个实际案例来验证这些策略的有效性。

热门文章

最新文章