解析 | 蚂蚁金服金融级容器引擎实践之路

本文涉及的产品
容器镜像服务 ACR,镜像仓库100个 不限时长
简介: 蚂蚁金服的解决方案叫做“CAFE”(Cloud Application Fabric Engine)。

小蚂蚁说:

在金融级分布式架构中使用容器,许多企业的开发者都面临许多挑战。在2018年ATEC蚂蚁金服技术探索大会上,蚂蚁金服高级技术专家盛延敏在演讲中分析了容器与云原生技术的本质,为容器在分布式架构上的使用带来了实用高效的解决方案。

关于蚂蚁金服科技开放其他的技术产品,你还可以参考阅读:

独家 | 蚂蚁金服TRaaS技术风险防控平台解密》;

深度|蚂蚁金服分布式金融核心套件:金融核心系统变革助推器》;

2.0 解析系列 | 一文详解新一代OceanBase云平台》…… 

关注“蚂蚁金服科技”,了解蚂蚁金服更多前沿暖科技!

4443eedc2c55a2459738ae46feba7f0d76bb30c6

容器与云原生技术

a2b9f1271e2fb56b2530255b0fbce27d5a7d25bd

云原生技术由来已久,它包含五部分基础技术,包括容器(Containers)、服务网络(Service Meshes)、声明式API(Declarative APIs)、不可变基础设施(Immutable Infrastructure)、微服务(Microservices),以及公共云、混合云、专有云三种能力

容器(特别是docker)、微服务大家都比较熟悉,先来简单解释一下大家可能比较陌生的服务网络、声明式API和不可变基础设施的作用:

“服务网络”能够解决诸如跨语言、跨技术栈等问题;而声明式API则是目前CNCF等社区非常推崇的一种理念,比如k8s里面的对象采用了api、kind、version等方式,最终描述了一种期望达到的状态;至于不可变基础设施?这个概念比较难理解,我们知道k8s里面的pod是一个豌豆夹,里面可以放很多容器,每当声明(declare)新spec的时候,系统就会将pod销毁,产生新的pod对象,这个概念它比较像我们购买iphone,iphone是一个封闭的体系,用户想换的时候就需要买一个新的,不可变基础设施不意味着比较稳定。

b9b046c76aca4812fd0ac316bac314c470280c3e

回顾一下云计算的发展(如上图所示),开始的时候大家关注虚拟化,在虚拟机中安装软件和中间件,让应用跑起来。随着技术的进步,大家开始思考能不能将基础架构屏蔽,于是创造出以app为中心的理念,使用大规模发布的能力、自动化的运维,将中间件和应用代码耦合在一起部署在一个平台上,上移至PaaS层。

技术再进步,大家又想到了CaaS,通过docker的镜像、云原生的统一抽象和标准,让应用和基础组件包含在一起,以镜像的方式发布应用,大家的视角转移到容器、微服务体系的融合,“云原生”的时代就此来临。

金融级分布式架构使用容器的挑战

那么在金融级分布式架构下使用容器,我们会面临什么样的挑战?主要有三方面:

第一,已有的基础设施,包括资产管理、监控体系、运维体系,如何能平滑过渡?

第二,微服务架构,包括服务发现与寻址、跨语言支持、服务治理如何落地?

第三,如何让专有云、公共云及混合云具备弹性伸缩能力?

3bd16719d25a0e3e756f303e7d538c9138fbe36d

蚂蚁金服的解决方案叫做“CAFE”(Cloud Application Fabric Engine),它是理念以及产品集合,包括“两个标准”,即云 Provider标准、Open Service Broker API标准;“三个平台”,即“应用与容器平台”(主要关注容器和应用生命周期的管理)、“监控分析平台”(主要关注logging、trace、metrics以及链路、事件等平台)及“容灾应灾平台”(‘三地五中心’就是由它支持);“三个形态”包括专有云、公共云及混合云;其中构建了“N个解决方案”,包括DevOps、容器以及分布式架构的解决方案等。

上文提到的三个问题究竟该如何应对呢?蚂蚁金服提供了从传统到云原生的桥梁,帮助用户平滑地过渡基础设施;SOFAMesh原生的支持,帮助用户快速落地微服务2.0架构;混合云的架构,实现弹性能力。

三个应对之道

1. 从传统到云原生的桥梁

从传统到云原生,大家有很多普遍存在的困惑:比如习惯了VM(虚拟机)体系该怎么办?云原生适合我么?能否渐进上云原生?(有些任务用传统方式做,有些用云原生,两边是不是能互联互通?)

为了解决传统运维体验的问题,蚂蚁金服提供一种方式,不将容器视为单体,而是轻量化的虚机,让用户可以登录、关机、开机、重启,这种方式与操作模式无关,用户可以通过镜像化发布,也可以登录到机器中重新做service的启停。

熟悉容器技术的人都知道,如果容器本身的内核不支持,整个容器资源都会显示宿主机的资源,蚂蚁有强大的团队,可以修复这样的内核问题,另外可以支持单容器操作,让发布前后容器IP、ID保持不变,将PV和PVC绑定,创造兼容传统运维的用户体验。做到这一点,需要很多技术积累。

基于虚拟机的生命周期管理,我们先来复习一下原生pod的生命周期管理:一个pod的创建指令被接受了以后,会进入pending(暂停)的状态,这意味着这个容器、这个pod没调度,或者还没有生成,直到任务被create(生成)出来后才会进入running(运行)状态。如果所有的容器退出了,流程就会进入succeed(成功),中间running和failed可能会反复。

a46cc9cb6c8c77d33441808ab729d18cbaf89188

Native Pod 生命周期

然而,这个生命周期不能够完全满足企业级需求,因此我们通过升级和定制,定义了如下的CAFE Pod生命周期,通过它我们可以同时支持虚拟机发布和镜像发布;分组、灰度和无损发布;版本管理,变更自愈(很多开发者社区的东西并能拿来即可用,比如我们打造的底盘夯实的能力,这一能力能够在pod出现问题时及时熔断兜底);原地升级和重建升级;通过分布式架构体系实现同城双活、异地多活;通过技术风险体系实现etcd在线备份,宕机迁移,高可靠,可运维,可监控,可交付等。这一架构通过Upgrading支持虚拟机通过镜像原地替换的方式发布,本地的存储都可以保留下来,资源还可以放大,比如2G变4G。

c68c867b913ee984fea33fd95c94368de15d8be9

CAFE Pod 生命周期

我们还设计了全新的负载Cafe Application,在主机故障或者停机时自动在新机器上拉起容器提供服务;在升级后(非upgrade容器方式),新pod和原pod的Ip不变;支持按分组配置升级部分容器,并且长时间可以保持该状态;支持原地升级(inplace)和重建升级(replace);提供类似statefulset的podname,每个容器的名字都是唯一的;每个容器都有单独的pv,pvc,类似statefulset;在升级前可以加入一些控制,比如摘除流量,注销注册中心等;并支持回滚到之前版本。

此外,云原生方式还要求底层具有更强大的日志能力,我们要把所有在系统里面产生的pod的日志进行收集、存储、投递。如下是整个日志搜集能力的架构图,这一架构复用了蚂蚁中间件团队积累的强大的技术实力,包含了两大核心中间件。

15f055c1828b7ad3b2411accce2e80a597d26b89

第一是有流式投递能力的AntQ。还有就是我们基于Elastic search做了深度改造的ZSearch,提供整个日志的存储和检索的能力。每一台机器上会有logAgent,它会和我们的LogService通信,接受dockerD来的一些event(事件),然后会和docker graph交互,拿到docker实例的文件句柄,源源不断地把这些文件流输送给AntQ,AntQ拿到以后,我们可以通过几种路径来完成整个日志的输送,对于最实时的任务可以直接通过AntQ来投递到实时的计算引擎;对于准实时的日志查询或者链路监控的需求,我们建立index(索引),让上层的链路、监控能拿到这些数据,做一些链路分析和日志查询。对于非实时的需求,我们可以通过投递到hdfs完成离线数据报表的分析和制作。

2. SOFAMesh原生支持

前面一部分讲到如何从传统的应用迁移到所谓的云原生容器的方式,对任何一个公司来说如何使用容器技术落地微服务架构,并且随着产品的不断迭代、业务需求越来越多,微服务体系是否可以支持上,支持好,这么大的技术成本对于中小公司来说是难以为继的。

有没有更好的办法呢?答案就是SOFAMesh,即SOFAStack的中间件,它可以提供全新的微服务2.0的能力。通过业务聚焦,支持多语言、多技术栈,通过CAFE平台可以让业务迅速获得这种能力。

8d46f39ea97509e97da36ec3bb761d53557b72e2

ad891c287358a68342677a8833d34475e692cd0a

上图是我们在SOFAMesh上的部署架构,其控制层面叫SOFAMesh Pilot,数据层面叫做MOSN模块,说白了它就是一个智能网关,所有的信息都通过APP发给MOSN模块,做网络传输;MOSN模块同时不断地把metrics, logging等投递到到日志,监控和链路分析基础设施,以便用户全方位地掌控微服务架构的状况。

这套体系加上蚂蚁金服沉浸多年的中间件的能力,以及数据中心,在金融场景中得到了大规模验证。

使用CAFE去打开SOFAMesh有什么好处?最大的好处就是开箱即用。而且它提升了技术竞争力,整合PaaS能力,统一应用管控。举个简单例子,如果有一天你的老板说,可不可以对iOS的移动流量来一个5%的线上灰度,现在的微服务架构体系里面是可以做到的,但是侵入性非常大,而SOFAMesh框架可以定规则,由Pilot下发,上面的MOSN模块很容易实现。由此可见,SOFAMesh爆发的能量是非常巨大的。SOFAMesh和CAFE是实现微服务架构的绝佳拍档。

3. 混合云架构支持

最后说一下弹性伸缩混合云。有些公司想上专有云,琢磨着能不能在公共云里面做一部分开发测试,然后再上专有云,而专有云本身资源有限,在资源有限的情况下能不能自由迁移,弹性伸缩,节省成本,这都是很多厂商看重的。蚂蚁金服近些年在这方面做了很多努力。

9e889327ddaae5546e6aa1fab0886932e395eccd

蚂蚁金服支持混合云架构,能够把应用的数据、镜像等在多朵云之间同步,在多个云上迅速拉起应用,包括任务调度等,在专有云、公共云之间自由分配工作负载,达到弹性伸缩的能力。

780e3c830fe87faae8dd5ba875a200d0a67a620a

上图是我们基于CAFE容器引擎验证的全栈产品输出能力,我们的全栈产品的品牌叫做Antstack,包括了金融企业需要的所有关键组件,大家熟知的OceanBase容器化也在这个平台里面。Antstack底层通过资源调度提供计算存储网络,再上层提供产品组件,开发平台等等,这些产品可以满足不同金融场景,包括银行保险场景的解决方案。

最后三句话总结一下,CAFE为传统运维平滑迁移到云原生提供了很好的桥梁,为基于SOFAStack、SOFAMesh的微服务落地提供了绝佳的大规模运维的平台,为整个企业选择公有云、专有云、混合云架构提供了更好灵活性和敏捷性,蚂蚁金服还将继续将运维部署做稳做精,就像精心制作一杯醇正的咖啡(Cafe同音),为大家带来更好的体验。


— END —

相关文章
|
16天前
|
存储 缓存 安全
Java内存模型深度解析:从理论到实践####
【10月更文挑战第21天】 本文深入探讨了Java内存模型(JMM)的核心概念与底层机制,通过剖析其设计原理、内存可见性问题及其解决方案,结合具体代码示例,帮助读者构建对JMM的全面理解。不同于传统的摘要概述,我们将直接以故事化手法引入,让读者在轻松的情境中领略JMM的精髓。 ####
28 6
|
13天前
|
运维 持续交付 云计算
深入解析云计算中的微服务架构:原理、优势与实践
深入解析云计算中的微服务架构:原理、优势与实践
42 1
|
1天前
|
人工智能 运维 监控
阿里云ACK容器服务生产级可观测体系建设实践
本文整理自2024云栖大会冯诗淳(花名:行疾)的演讲,介绍了阿里云容器服务团队在生产级可观测体系建设方面的实践。冯诗淳详细阐述了容器化架构带来的挑战及解决方案,强调了可观测性对于构建稳健运维体系的重要性。文中提到,阿里云作为亚洲唯一蝉联全球领导者的容器管理平台,其可观测能力在多项关键评测中表现优异,支持AI、容器网络、存储等多个场景的高级容器可观测能力。此外,还介绍了阿里云容器服务在多云管理、成本优化等方面的最新进展,以及即将推出的ACK AI助手2.0,旨在通过智能引擎和专家诊断经验,简化异常数据查找,缩短故障响应时间。
阿里云ACK容器服务生产级可观测体系建设实践
|
6天前
|
存储 网络协议 编译器
【C语言】深入解析C语言结构体:定义、声明与高级应用实践
通过根据需求合理选择结构体定义和声明的放置位置,并灵活结合动态内存分配、内存优化和数据结构设计,可以显著提高代码的可维护性和运行效率。在实际开发中,建议遵循以下原则: - **模块化设计**:尽可能封装实现细节,减少模块间的耦合。 - **内存管理**:明确动态分配与释放的责任,防止资源泄漏。 - **优化顺序**:合理排列结构体成员以减少内存占用。
58 14
|
1天前
|
人工智能 Cloud Native 调度
阿里云容器服务在AI智算场景的创新与实践
本文源自张凯在2024云栖大会的演讲,介绍了阿里云容器服务在AI智算领域的创新与实践。从2018年推出首个开源GPU容器共享调度方案至今,阿里云容器服务不断推进云原生AI的发展,包括增强GPU可观测性、实现多集群跨地域统一调度、优化大模型推理引擎部署、提供灵活的弹性伸缩策略等,旨在为客户提供高效、低成本的云原生AI解决方案。
|
1天前
|
运维 Kubernetes 调度
阿里云容器服务 ACK One 分布式云容器企业落地实践
阿里云容器服务ACK提供强大的产品能力,支持弹性、调度、可观测、成本治理和安全合规。针对拥有IDC或三方资源的企业,ACK One分布式云容器平台能够有效解决资源管理、多云多集群管理及边缘计算等挑战,实现云上云下统一管理,提升业务效率与稳定性。
|
12天前
|
弹性计算 持续交付 API
构建高效后端服务:微服务架构的深度解析与实践
在当今快速发展的软件行业中,构建高效、可扩展且易于维护的后端服务是每个技术团队的追求。本文将深入探讨微服务架构的核心概念、设计原则及其在实际项目中的应用,通过具体案例分析,展示如何利用微服务架构解决传统单体应用面临的挑战,提升系统的灵活性和响应速度。我们将从微服务的拆分策略、通信机制、服务发现、配置管理、以及持续集成/持续部署(CI/CD)等方面进行全面剖析,旨在为读者提供一套实用的微服务实施指南。
|
7天前
|
机器学习/深度学习 搜索推荐 API
淘宝/天猫按图搜索(拍立淘)API的深度解析与应用实践
在数字化时代,电商行业迅速发展,个性化、便捷性和高效性成为消费者新需求。淘宝/天猫推出的拍立淘API,利用图像识别技术,提供精准的购物搜索体验。本文深入探讨其原理、优势、应用场景及实现方法,助力电商技术和用户体验提升。
|
11天前
|
负载均衡 网络协议 算法
Docker容器环境中服务发现与负载均衡的技术与方法,涵盖环境变量、DNS、集中式服务发现系统等方式
本文探讨了Docker容器环境中服务发现与负载均衡的技术与方法,涵盖环境变量、DNS、集中式服务发现系统等方式,以及软件负载均衡器、云服务负载均衡、容器编排工具等实现手段,强调两者结合的重要性及面临挑战的应对措施。
31 3
|
14天前
|
安全 持续交付 Docker
深入理解并实践容器化技术——Docker 深度解析
深入理解并实践容器化技术——Docker 深度解析
31 2

推荐镜像

更多