支付宝资深技术专家尹博学:新一代金融核心突破之全分布式单元化技术架构

简介: 本文整理自2020阿里云线上峰会蚂蚁集团资深技术专家尹博学的主题演讲,为大家分享蚂蚁关于金融级IT架构及分布式架构的思考和应用实践。

过去几年是云原生理念高速普及的黄金时期。微服务、容器、无服务器架构、服务网格等新技术的出现,在技术社区中激起了一浪又一浪的创新热潮。然而由于金融行业对性能和安全的严苛要求,云原生技术在企业实际场景中的实施落地,特别是在金融场景的实施落地,仍然面临诸多挑战。

本文整理自2020阿里云线上峰会蚂蚁集团资深技术专家尹博学的主题演讲,为大家分享蚂蚁关于金融级IT架构及分布式架构的思考和应用实践。关注“蚂蚁金服科技”公众号,蚂蚁SOFAStack白皮书即将发布,不要错过哦~~

以下为演讲整理全文:

大家好,我是蚂蚁集团的尹博学,今天和大家分享一下蚂蚁关于金融级IT架构及分布式架构的一些思考和应用案例,主要包含三个部分,分别是行业常见的分布式架构介绍、蚂蚁单元化架构的介绍以及单元化架构的应用案例。

行业常见分布式架构

行业常见的分布式架构主要包含单活架构、双活架构和冷备架构。从容灾能力角度来看,双活架构和冷备架构均能做到应用级跨机房容灾,但是数据库因为使用了异步复制的技术,无法做到机房级RPO=0的容灾。再看灰度发布的能力,冷备架构和双活架构都只能做到机房级灰度发布,无法做到更细粒度的灰度发布。

01.png

蚂蚁单元化架构介绍

在介绍完行业常见的分布式架构后,我们来看一下蚂蚁的分布式架构发展历程,和单元化架构的详细介绍。

这是蚂蚁分布式架构发展历程。蚂蚁也经历了单活、同城双活、两地三中心,三个阶段。其中两地三中心是同城双活加一个冷备。随着蚂蚁业务和业务量复杂度的越来越高,业务对于基础架构的要求也越来越高,即扩展能力、容灾能力、灰度能力要求越来越高。最终蚂蚁发展到了单元化架构,将主要业务拆分单元即分片,装入不同的逻辑单元内,每个分片的数据库实现三地五中心部署即三地五中心的单元化架构。

首先我们来看一下蚂蚁单元化架构的整体架构设计,整体架构包含RZone、GZone和CZone。其中GZone部署的是无法拆分的数据和业务,GZone的数据和业务被RZone依赖,GZone全局只部署一份,而RZone部署的是可拆分的业务和对应的数据。每个RZone内的数据分片如图所示有五副本,实现三地五中心部署,每个分片内只有一个可写入的主副本,其余副本按照Paxos协议做数据强一致。每个RZone内实现业务单元封闭,独立完成自己的所有业务。而CZone的出现是因为GZone全局只有一份,不同城市的RZone可能依赖GZone服务和数据的时候需要远距离调用,延迟比较大,所以在每个城市部署一个CZone作为GZone的只读副本,为本城市的RZone提供服务。

02.png

介绍完单元化架构的整体设计之后,我们从容灾、灰度发布、弹性三个方面详细看一下该架构的能力。

首先看容灾能力,容灾能力分为同城容灾和异地容灾,以图中所示为例,RZone1出现故障先看同城容灾能力,我们目标将RZone1切换至同城容灾RZone2。先做数据库分片切换,RZone1对应的分片为分片1,把分片1在RZone2的副本提升为主副本,数据库副本提升完毕后将RZone1的流量切换至RZone2,实现同城容灾RPO=0、RTO<1min。

再看异地容灾,同样以RZone1故障为例。目标切换至RZone3,先做数据库切换,分片1在RZone3的副本切换成主副本,完成后将RZone1的流量切换至RZone3,实现异地容灾,该过程RPO=0、RTO<1min。

03.png

接下来我们看弹性。弹性的背景是业务在大促、节假日等流量出现大幅上涨的过程,我们可以短期租借新的城市和新的IDC。如图所示,我们租借城市X的IDCX作为RZoneX,将RZone5的部分流量弹出至RZoneX,对应流量的数据也弹出至RZoneX内。在节假日大促结束之后,将RZoneX内的流量和数据弹回至RZone5,然后回收RzoneX,这样大幅节约了机房成本。

04.png

介绍完弹性之后,我们来看灰度能力。如图所示,我们将四个RZone(RZone1、RZone2、RZone3、RZone4)的业务和应用分为A、B组,日常A组和B组各承担50%的应用流量。在应用新版本发布时,我们将A组的流量全部切换至B组,此时在A组上部署新版本,部署完毕后将B组的流量按粒度切换至A组上,切换粒度等于数据分片的粒度。在切换的过程中可以做A组和B组的服务对比,如果发现A组的服务异常,可以快速将流量切换回B组。在A组服务一段时间后无异常发生,最终可以将B组的流量全部切换至A组,把B组的版本更新为新的版本,在整个切换的过程中实现了可灰度、可回滚、可监控。

05.png

我们再深入到架构内部,来阐释一下架构内关键模块是如何支撑该架构的。

首先我们看流量路由模块。流量路由模块的核心是将用户的uid信息和对应的Zone信息植入到cookie中,供流量路由模块做精准路由。我们以用户uid=68、RZone=RZ03为例来看流量路由模块是如何工作的,首次用户接入时cookie内无zone信息,流量接入模块会随即将该请求发到一个RZone内,如发到RZone1内,RZone1通过zoneClinet会准确计算该请求应发至RZone3,即通过RouteClinet将该请求发送。发送过程中将计算出的uid信息和对应的zone信息植入cookie内转发至RZone3,RZone3完成本次业务请求后将结果返回给用户,其后用户同意session内的其它请求,因为在cookie内已经有了准确的路由信息,会被流量路由模块准确的发至RZone3完成业务请求。

06.png

接着我们再看一下服务路由,服务路由分为本机房服务路由和跨机房服务路由调用。先看本机房服务路由,服务调用端向本机房服务注册中心订阅服务,发现服务地址后做本机房服务路由调用。再看跨机房服务路由调用,服务调用端向其他IDC的注册中心订阅服务地址,发现服务地址后做跨机房服务调用。

最后我们看数据是如何实现高可靠的。蚂蚁使用自研的分布式关系数据库OceanBase,每个分片的数据库做5副本部署,部署地域实现三地五中心部署,5副本中有3副本实现强一致,如图所示可以实现同城、IDC容灾和异地容灾。

07.png

单元化架构实践场景

介绍完蚂蚁单元化架构的主要概念即关键模块信息之后,我们看一下单元化架构在外部客户实施的一些案例。

第一个案例是一家城商行,它的业务系统、IT系统历史比较长,无法一步跨越到单元化架构,我们为其推荐了大GZone的模式,即把城商行的所有服务和数据不做拆分,直接装入一个GZone内,在GZone的基础上实现同城双活即应用同城双中心部署,数据库同城三中心部署,从而实现同城容灾能力,RPO=0、RTO<1min,但无法实现异地容灾能力,其可灰度能力和弹性能力都无法做到更细力度。

再看第二个区域银行的案例。我们为这家区域银行实现了同城单元化,即将这家区域银行的主要业务拆分成两个逻辑业务单元两个分片,将其装入一个城市的两个IDC内,在另外一个城市建设冷备,其数据库每个分片实现5副本部署,其中4副本在主城市两个中心内部署,1副本部署在了本机房内。该架构实现了同城容灾能力,同时也实现了细粒度的灰度能力和弹性能力,但同样无法实现异地容灾能力。

08.png

最后我们看一下蚂蚁网商银行的案例。网商银行实现了异地多活单元化完整的架构,网商银行的主要业务拆分成了4个分片,装入4个RZone内,这4个RZone分别部署在了两个城市内,各承担25%的流量,而数据库实现5副本三个城市部署。其中提供服务的两个地域两个城市部署4副本,远端部署1副本。该架构实现了同城容灾、异地容灾,同时也实现更细粒度的灰度能力和弹性伸缩能力。

09.png

介绍完这三个案例后,我们看到了单元化架构的一个灵活性,既可以大GZone部署,也可以同城单元化部署和异地多活单元化部署。今天我们介绍了蚂蚁架构的发展历程及单元化在一些关键外部客户的应用案例。

我的介绍就到这里,谢谢大家。

加入我们:

蚂蚁集团-商业化产品专家

工作地点:杭州、上海

岗位职责:
1、对金融科技或云计算相关领域熟悉,结合行业发展趋势及业务战略方向对平台/行业产品的长期发展做出市场判断和业务规划,找到产品商业化的突破。
2、作为产品,协同销售、产品、研发、运营团队,推进重大产品项目的落地,拿到满足业务诉求的产品产出,并且能够以技术商业咨询的角度协同业务团队落地重要客户项目。
3、确保蚂蚁在金融科技领域中的产品行业竞争力和影响力,对蚂蚁产品的竞争力负责。
4、在产品相关的技术领域,完成竞争对手的动态和优劣势分析
5、产品生态合作伙伴的建设和运营,结合行业生态,快速形成市场规模形成面向行业的场景化解决方案。

任职资格:
1、5年以上企业级产品设计、规划、和管理的工作经验 ,在产品决策、执行和愿景规划上有全面把控能力, 有国际化视野优先;
2、深入理解云计算技术和云原生技术(如:微服务、devops、k8s、serverless等),熟悉业界主流云厂商 PaaS 平台和产品,了解其特性和各自的优劣势;
3、业务能力,对金融科技化有深刻的理解,熟悉领域内领先公司的业务及产品,对业务趋势有自己的见解和分析;
4、产品能力,能综合多业务的不同场景,形成产品设计和解决方案设计。
5、协同能力,具备良好的团队沟通协同能力,能推动多业务、角色的大型项目顺利推进,结果导向带领团队拿到结果;
6、技术能力,在深度学习、分布式架构、企业级应用平台,数据库、大数据等一个或者多个领域有深入研究和理解;
7、敬业精神及抗压能力,有ownership,有很强的抗压能力和心力,能在关键时刻找到突破点。

简历投递邮箱:
zhenxiong.mzx@antgroup.com

目录
打赏
0
2
1
0
3
分享
相关文章
十大主流联邦学习框架:技术特性、架构分析与对比研究
联邦学习(FL)是保障数据隐私的分布式模型训练关键技术。业界开发了多种开源和商业框架,如TensorFlow Federated、PySyft、NVFlare、FATE、Flower等,支持模型训练、数据安全、通信协议等功能。这些框架在灵活性、易用性、安全性和扩展性方面各有特色,适用于不同应用场景。选择合适的框架需综合考虑开源与商业、数据分区支持、安全性、易用性和技术生态集成等因素。联邦学习已在医疗、金融等领域广泛应用,选择适配具体需求的框架对实现最优模型性能至关重要。
682 79
十大主流联邦学习框架:技术特性、架构分析与对比研究
深入解析Tiktokenizer:大语言模型中核心分词技术的原理与架构
Tiktokenizer 是一款现代分词工具,旨在高效、智能地将文本转换为机器可处理的离散单元(token)。它不仅超越了传统的空格分割和正则表达式匹配方法,还结合了上下文感知能力,适应复杂语言结构。Tiktokenizer 的核心特性包括自适应 token 分割、高效编码能力和出色的可扩展性,使其适用于从聊天机器人到大规模文本分析等多种应用场景。通过模块化设计,Tiktokenizer 确保了代码的可重用性和维护性,并在分词精度、处理效率和灵活性方面表现出色。此外,它支持多语言处理、表情符号识别和领域特定文本处理,能够应对各种复杂的文本输入需求。
85 6
深入解析Tiktokenizer:大语言模型中核心分词技术的原理与架构
DeepSeek背后的技术基石:DeepSeekMoE基于专家混合系统的大规模语言模型架构
DeepSeekMoE是一种创新的大规模语言模型架构,融合了专家混合系统(MoE)、多头潜在注意力机制(MLA)和RMSNorm归一化。通过专家共享、动态路由和潜在变量缓存技术,DeepSeekMoE在保持性能的同时,将计算开销降低了40%,显著提升了训练和推理效率。该模型在语言建模、机器翻译和长文本处理等任务中表现出色,具备广泛的应用前景,特别是在计算资源受限的场景下。
609 29
DeepSeek背后的技术基石:DeepSeekMoE基于专家混合系统的大规模语言模型架构
YOLOv11改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
YOLOv11改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
210 10
YOLOv11改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
RT-DETR改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
RT-DETR改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
58 4
RT-DETR改进策略【模型轻量化】| MoblieNetV3:基于搜索技术和新颖架构设计的轻量型网络模型
社交软件红包技术解密(六):微信红包系统的存储层架构演进实践
微信红包本质是小额资金在用户帐户流转,有发、抢、拆三大步骤。在这个过程中对事务有高要求,所以订单最终要基于传统的RDBMS,这方面是它的强项,最终订单的存储使用互联网行业最通用的MySQL数据库。支持事务、成熟稳定,我们的团队在MySQL上有长期技术积累。但是传统数据库的扩展性有局限,需要通过架构解决。
87 18
建筑施工一体化信息管理平台源码,支持微服务架构,采用Java、Spring Cloud、Vue等技术开发。
智慧工地云平台是专为建筑施工领域打造的一体化信息管理平台,利用大数据、云计算、物联网等技术,实现施工区域各系统数据汇总与可视化管理。平台涵盖人员、设备、物料、环境等关键因素的实时监控与数据分析,提供远程指挥、决策支持等功能,提升工作效率,促进产业信息化发展。系统由PC端、APP移动端及项目、监管、数据屏三大平台组成,支持微服务架构,采用Java、Spring Cloud、Vue等技术开发。
133 7
分布式爬虫框架Scrapy-Redis实战指南
本文介绍如何使用Scrapy-Redis构建分布式爬虫系统,采集携程平台上热门城市的酒店价格与评价信息。通过代理IP、Cookie和User-Agent设置规避反爬策略,实现高效数据抓取。结合价格动态趋势分析,助力酒店业优化市场策略、提升服务质量。技术架构涵盖Scrapy-Redis核心调度、代理中间件及数据解析存储,提供完整的技术路线图与代码示例。
分布式爬虫框架Scrapy-Redis实战指南
【📕分布式锁通关指南 02】基于Redis实现的分布式锁
本文介绍了从单机锁到分布式锁的演变,重点探讨了使用Redis实现分布式锁的方法。分布式锁用于控制分布式系统中多个实例对共享资源的同步访问,需满足互斥性、可重入性、锁超时防死锁和锁释放正确防误删等特性。文章通过具体示例展示了如何利用Redis的`setnx`命令实现加锁,并分析了简化版分布式锁存在的问题,如锁超时和误删。为了解决这些问题,文中提出了设置锁过期时间和在解锁前验证持有锁的线程身份的优化方案。最后指出,尽管当前设计已解决部分问题,但仍存在进一步优化的空间,将在后续章节继续探讨。
495 131
【📕分布式锁通关指南 02】基于Redis实现的分布式锁
|
2月前
|
Springboot使用Redis实现分布式锁
通过这些步骤和示例,您可以系统地了解如何在Spring Boot中使用Redis实现分布式锁,并在实际项目中应用。希望这些内容对您的学习和工作有所帮助。
198 83

热门文章

最新文章

AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等