AI 助理
备案控制台
开发者社区 云原生 中间件 文章 正文

逸仙电商Seata企业级落地实践

2021-04-13 5169
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
云原生网关 MSE Higress，422元/月
服务治理 MSE Sentinel/OpenSergo，Agent数量 不受限
性能测试 PTS，5000VUM额度
简介： 本文将会以逸仙电商的业务作为背景， 先介绍一下seata的原理， 并给大家进行线上演示， 由浅入深去介绍这款中间件， 以便读者更加容易去理解 Seata 这个中间件。

作者 | 张嘉伟（GitHub ID：l81893521）

就职于逸仙电商交易中心；Seata Committer，加入 Seata 社区已有一年半，见证了从 Fescar 到 Seata 的变更，GA等。


你可能没有听说过逸仙电商，但是你的女朋友不可能没有听说过它。逸仙电商旗下有完美日记、小奥汀、完子心选等品牌。完美日记作为国货美妆界的黑马用了不到三年时间，达到了行业龙头企业通常需要十年以上才能达到的营收规模。2020 年正式登陆纽约证券交易所，成为第一家在美国上市的“国货美妆品牌”。在快速增长的业务下，系统流量增长速度越来越快，服务数量不断增多，调用链路错综复杂，数据不一致的问题日渐显现，为了降低人力成本和系统资源，我们选择了 Seata。


本文将会以逸仙电商的业务作为背景， 先介绍一下seata的原理， 并给大家进行线上演示， 由浅入深去介绍这款中间件， 以便读者更加容易去理解 Seata 这个中间件。


image.png


1. 问题背景


在微服务的架构下，数据不一致的产生原因


2. 业务介绍


挑选了逸仙电商一些比较简单易懂的业务作为开展背景


3. 原理分析


Seata的实现原理和故障解决以及部署方案


4. Demo演示


如何在线体验这款中间件，无需整合和下载任何代码


数据不一致的原因


image.png


在微服务的环境下，由于调用链路跨越多个应用，甚至跨越多个数据源，数据的一致性在普通情况下难以保证，导致数据不一致的原因非常多，这里列举了三个最常见的原因


  1. 业务异常一个服务链路调用中，如果调用的过程出现业务异常，产生异常的应用独立回滚，非异常的应用数据已经持久化到数据库。
  2. 网络异常调用的过程中，由于网络不稳定，导致链路中断，部分应用业务执行完成，部分应用业务未被执行。
  3. 服务不可用若服务不可用，无法被正常调用，也会导致问题的产生


image.png


这里挑选了逸仙电商业务体系里面一个非常通俗容易理解的调用方式，并且去掉了多余复杂的链路，方便在阅读过程中更加关注重点。


在以往如果出现数据不一致的问题，相信大多数的解决方案是这样的


  • 人工补偿数据
  • 定时任务检查和补偿数据


但是这两种方式的缺点也是显然意见的，一种是浪费大量的人力成本和时间，另外一种是浪费大量的系统资源去检查数据是否一致和额外的人力成本。


接下来我会根据逸仙在生产上稳定运行将近一年总结的经验并且尽可能简单的去描述Seata是如何保证数据一致的。


原理


image.png


在接触一项新技术之前，我们应该先从宏观的角度去理解它大概包含些什么。在Seata中，它大概分为以下三个角色。


  • 黄色，Transaction Manager（TM），client端
  • 蓝色，Resource Manager（RM），client端
  • 绿色，Transaction Coordinator（TC），server端


你可以根据颜色，名字，缩写甚至客户端/服务端去区分这三者的关系，同时简单去理解它们每一个自身的职责大概是要干些什么事情，后面的讲解我也会保持一样的颜色和名字来区分它们。


image.png


Seata其中只一个核心是数据源代理，意味着在你执行一句Sql语句时，Seata会帮你在执行之前和之后做一些额外的操作，从而保证数据的一致性，并且尽可能做到无感知，让你使用起来感觉非常方便和神奇。这里首先要去理解两个知识点。


  • 前置镜像（Before Image）：保存数据变更前的样子
  • 后置镜像（After Image）：保存数据变更后的样子
  • Undo Log：保存镜像


有时候新项目接入的时候，有同事会问，为什么事务不生效，如果你也遇到过同样的问题，那首先要检查一下自己的数据源是否已经代理成功。


当执行一句Sql时，Seata会尝试去获取这条/批数据变更前的内容，并保存到前置镜像中（Insert语句没有前置镜像），然后执行业务Sql，执行完后会尝试去获取这条/批数据变更后的内容，并保存到后置镜像中（Delete语句没有后置镜像），之后会进行分支事务注册，TC在收到分支事务注册请求时，会持久化这些分支事务信息和根据操作数据的主键为维度作为全局锁并持久化，可选持久化方式有


  • file
  • db
  • redis


在收到TC返回的分支注册成功响应后，会把镜像持久化到应用所在的数据源的Undo Log表中，最后提交本地事务。


以上所有操作都会保证在同一个本地事务中，保证业务操作和Undo Log操作的原子性


一阶段


image.png


理解了单个应用的处理流程，再从一个完全的调用链路，去看Seata的处理过程，相信理解起来会简单很多，


  1. 首先一个使用了@GlobalTransactional的接口被调用，Seata会对其进行拦截，拦截的角色我们称之为TM，这个时候会访问TC开启一个新的全局事务，TC收到请求后会生成XID和全局事务信息并持久化，然后返回XID。
  2. 在每一层的调用链路中，XID都必须往下传递，然后每一层都经过之前说过的处理逻辑，直到执行完成/异常抛出。


直到目前，一阶段已经执行完成。


另外一个需要注意的问题是，如果发现事务不生效，需要检查XID是否成功往下传递


二阶段提交


image.png


如果在整个调用链路的过程，没有发生任何异常，那么二阶段提交的过程是非常简单而且非常的高效，只有两步


  • TC清理全局事务对应的信息
  • RM清理对应Undo Log信息


二阶段回滚


image.png


若调用过程中出现异常，会自动触发反向回滚


反向回滚表示，如果调用链路顺序为 A -> B -> C，那么回滚顺序为 C -> B -> A。

例：A=Insert，B=Update，如果回滚时不按照反向的顺序进行回滚，则有可能出现回滚时先把A删除了，再更新A，引发错误


在回滚的过程中有可能会遇到一种非常极端的情况，回滚到对应的模块时，找不到对应的Undo Log，这种情况主要发生在


  • 分支事务注册成功，但是由于网络原因收不到成功的响应，Undo Log未被持久化
  • 同时全局事务超时(超时时间可自由配置)触发回滚


这时候RM会持久化一个特殊的Undo Log，状态为GlobalFinished。由于这个全局事务已经回滚，需要防止网络恢复时，未持久化Undo Log的应用收到了分支注册成功的响应和持久化Undo Log，并提交本地最终引发的数据不一致。


读已提交


由于在一阶段的时候，数据已经保存到数据库并提交，所以Seata默认的隔离级别为读未提交，如果需要把隔离级别提升至读已提交则需要使用@GlobalLock标签并且在查询语句上加上for update


@GlobalLock@TransactionalpublicPayMoneyDtodetail(ProcessOnEventRequestDtoprocessOnEventRequestDto) {
returnbaseMapper.detail(processOnEventRequestDto.getProcessInfoDto().getBusinessKey())
}
@MapperpublicinterfacePayMoneyMapperextendsBaseMapper<PayMoney> {
@Select("select id, name, amount, account, has_repayment, pay_amount from pay_money m where m.business_key = #{businessKey} for update")
PayMoneyDtodetail(@Param("businessKey") StringbusinessKey);
}


这个时候Seata会对添加了for update的查询语句进行代理


image.png


如果一个全局事务1正在操作，并且未进行二阶段提交/回滚的时候，全局锁是被全局事务1锁持有的，同时另外一个全局事务2尝试去查询相同的数据，由于查询语句被代理，seata会尝试去获取这条数据的全局锁，直到获取成功/失败(重试次数达到配置值)为止。


问题


在生产上运行接近1年时间，总体来说遇到的问题不算多，解决起来也比较容易，比如以下这个问题


image.png


经过排查发现，由于Seata会使用jdbc标准接口尝试获取业务操作所对应的表结构，由于表结构改动频率较少，并且考虑到表结构变更后应用会进行重启，所以会对表结构进行缓存，如果表结构改动后不对应用进行重启，有可能引发构建镜像时出现NullPointerException。下面贴出关键代码


@OverridepublicTableMetagetTableMeta(finalConnectionconnection, finalStringtableName, StringresourceId) {
if (StringUtils.isNullOrEmpty(tableName)) {
thrownewIllegalArgumentException("TableMeta cannot be fetched without tableName");
    }
TableMetatmeta;
finalStringkey=getCacheKey(connection, tableName, resourceId);
//错误关键处，尝试从缓存获取表结构tmeta=TABLE_META_CACHE.get(key, mappingFunction-> {
try {
returnfetchSchema(connection, tableName);
        } catch (SQLExceptione) {
LOGGER.error("get table meta of the table `{}` error: {}", tableName, e.getMessage(), e);
returnnull;
        }
    });
if (tmeta==null) {
thrownewShouldNeverHappenException(String.format("[xid:%s]get table meta failed,"+" please check whether the table `%s` exists.", RootContext.getXID(), tableName));
    }
returntmeta;
}


修改表结构，需要对应用进行重启，即可解决此问题，非常简单


第二个遇到的问题就是在生产运行一段时间后，发现branch_table和lock_table存在数据残留，并且根据xid查询global_table没有对应的数据，导致后续操作相同的数据行会出现获取全局锁失败，并且会每隔一段时间小量出现。这个异常隐藏的比较深，而且在开发环境和测试环境无法复现，通过跟踪源码和总结原因发现，是由于开启了Mysql主从，导致提交/回滚时，Seata通过xid查询分支事务时，数据未同步到从库，导致遗漏了一部分分支事务数据。


源码部分


@OverridepublicGlobalStatuscommit(Stringxid) throwsTransactionException {
//根据xid查询信息，如果开启主从，会有可能导致查询信息不完整GlobalSessionglobalSession=SessionHolder.findGlobalSession(xid);
if (globalSession==null) {
returnGlobalStatus.Finished;
    }
globalSession.addSessionLifecycleListener(SessionHolder.getRootSessionManager());
// just lock changeStatusbooleanshouldCommit=SessionHolder.lockAndExecute(globalSession, () -> {
// Highlight: Firstly, close the session, then no more branch can be registered.globalSession.closeAndClean();
if (globalSession.getStatus() ==GlobalStatus.Begin) {
if (globalSession.canBeCommittedAsync()) {
globalSession.asyncCommit();
returnfalse;
            } else {
globalSession.changeStatus(GlobalStatus.Committing);
returntrue;
            }
        }
returnfalse;
    });
if (shouldCommit) {
booleansuccess=doGlobalCommit(globalSession, false);
//If successful and all remaining branches can be committed asynchronously, do async commit.if (success&&globalSession.hasBranch() &&globalSession.canBeCommittedAsync()) {
globalSession.asyncCommit();
returnGlobalStatus.Committed;
        } else {
returnglobalSession.getStatus();
        }
    } else {
returnglobalSession.getStatus() ==GlobalStatus.AsyncCommitting?GlobalStatus.Committed : globalSession.getStatus();
    }
}


@OverridepublicGlobalStatusrollback(Stringxid) throwsTransactionException {
//根据xid查询信息，如果开启主从，会有可能导致查询信息不完整GlobalSessionglobalSession=SessionHolder.findGlobalSession(xid);
if (globalSession==null) {
returnGlobalStatus.Finished;
    }
globalSession.addSessionLifecycleListener(SessionHolder.getRootSessionManager());
// just lock changeStatusbooleanshouldRollBack=SessionHolder.lockAndExecute(globalSession, () -> {
globalSession.close(); // Highlight: Firstly, close the session, then no more branch can be registered.if (globalSession.getStatus() ==GlobalStatus.Begin) {
globalSession.changeStatus(GlobalStatus.Rollbacking);
returntrue;
        }
returnfalse;
    });
if (!shouldRollBack) {
returnglobalSession.getStatus();
    }
doGlobalRollback(globalSession, false);
returnglobalSession.getStatus();
}


相信此问题会在支持Raft之后得到完美的解决

pr: https://github.com/seata/seata/pull/3086

有兴趣的朋友也可以尝试去review一下代码


部署-高可用


image.png


Seata和其他中间件的高可用部署方式差别不大，如图片所示，确保应用服务和TC访问相同的注册中心和配置中心，同时只需要启动多台TC，并将store.mode改为db模式即可完成高可用部署，并选择合适的注册中心和配置中心即可，目前支持的配置中心有


  • nacos
  • consul
  • etcd3
  • eureka
  • redis
  • sofa
  • zookeeper


可选的配置中心有


  • nacos
  • etcd3
  • consul
  • apollo
  • zk


部署-单节点多应用


image.png


当然也有更加灵活的部署方式，通过vgoup-mapping（事务集群），可以做到单节点多应用的隔离，比如A应用和B应用访问A-Group的两个TC，C应用和D应用访问B-Group的两个TC，E应用和F应用访问C-Group的两个TC。


部署-异地容灾


image.png


image.png


通过vgoup-mapping也可以做到异地容灾，当原有集群出现不可用时，可以通过变更配置立刻转移到备用的集群上。此处以Nacos作为注册中心举例，TC配置方式如下：


# 广州机房
registry {
  # file 、nacos 、eureka、redis、zk、consul、etcd3、sofa
  type = "nacos"
  loadBalance = "RandomLoadBalance"
  loadBalanceVirtualNodes = 10
  nacos {
    application = "seata-server"
    serverAddr = "127.0.0.1:8848"
    group = "SEATA_GROUP"
    namespace = ""
    cluster = "Guangzhou"
    username = ""
    password = ""
  }
}


# 上海机房
registry {
  # file 、nacos 、eureka、redis、zk、consul、etcd3、sofa
  type = "nacos"
  loadBalance = "RandomLoadBalance"
  loadBalanceVirtualNodes = 10
  nacos {
    application = "seata-server"
    serverAddr = "127.0.0.1:8848"
    group = "SEATA_GROUP"
    namespace = ""
    cluster = "Shanghai"
    username = ""
    password = ""
  }
}


Demo


最后通过访问阿里云知行动手首页，即可在线快速体验各种各样的中间件：


https://start.aliyun.com


Seata直达传送门，无需下载代码，在线编译和部署：


https://start.aliyun.com/handson/isnEO76f/distributedtransaction


联系社区


扫码快速加入讨论组，为你解答各种疑难

image.png


了解更多中间件技术干货和案例实践：

qrcode_for_gh_94efc5c3f960_344.jpg


文章标签：
云数据库 Tair（兼容 Redis）
负载均衡
微服务
SQL
NoSQL
容灾
Nacos
FESCAR
Redis
中间件
数据库
缓存
相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务，基于高可靠双机热备架构及可无缝扩展的集群架构，满足高读写性能场景及容量需弹性变配的业务需求。 产品详情：https://www.aliyun.com/product/kvstore &nbsp; &nbsp; ------------------------------------------------------------------------- 阿里云数据库体验：数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库&nbsp;ECS 实例和一台目标数据库&nbsp;RDS实例。跟着指引，您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接，领取免费ECS&amp;RDS资源，30分钟完成数据库上云实战！https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
中间件小哥
目录
相关文章
微服务和网关
|
6月前
|
监控 安全 Cloud Native
云原生开源沙龙北京站开启报名 | 微服务安全零信任架构
「微服务安全零信任架构」主题技术沙龙将于4月13日在北京阿里中心举行，欢迎报名！~
微服务和网关
2763 1
云原生开源沙龙北京站开启报名 | 微服务安全零信任架构
阿里云云原生
|
12月前
|
Dubbo 中间件 应用服务中间件
Seata：打造行业首个分布式事务产品
Seata：打造行业首个分布式事务产品
阿里云云原生
195 2
技术工程师
|
消息中间件 Cloud Native 大数据
带你读《企业级云原生白皮书项目实战》——6.3.2 RocketMQ 在陪伴体系中的应用
带你读《企业级云原生白皮书项目实战》——6.3.2 RocketMQ 在陪伴体系中的应用
技术工程师
151 0
开发者小达人
|
弹性计算 开发框架 运维
《2023云原生实战案例集》——02 零售/电商/本地生活——贵州酒店集团 基于SAE实现几乎零改造的微服务升级
《2023云原生实战案例集》——02 零售/电商/本地生活——贵州酒店集团 基于SAE实现几乎零改造的微服务升级
开发者小达人
161 0
云消息队列
|
消息中间件 容灾 物联网
行业实践：RocketMQ 业务集成典型行业应用和实践
本文讲述了 RocketMQ 的业务消息场景、一些功能特性的使用方法，包括事务消息、定时消息、消息全链路灰度等，欢迎大家尝试使用。
云消息队列
550 0
行业实践：RocketMQ 业务集成典型行业应用和实践
刘军D
|
编解码 监控 负载均衡
Dubbo3 开源标杆客户案例：平安健康的 Dubbo3 迁移历程
# 1 背景 我们公司从15年开始就使⽤dubbo作为微服务框架，当社区推出dubbo3时，我们也⽴刻跟进并做了深⼊调研，发现dubbo3 的应⽤/实例级服务注册和发现模式能够在一定程度上解决我们当前注册中⼼⾯临的压⼒，解决稳定性和安全性问题。同时dubbo3在服务治理上也做了升级，契合云原⽣架构，⽽且dubbo3能够向下兼容dubbo2，这也将降低升级的成本和⻛险。 升级项目有了阶段性的进展
刘军D
255 1
Dubbo3 开源标杆客户案例：平安健康的 Dubbo3 迁移历程
阿里云云原生
|
消息中间件 容灾 物联网
行业实践：RocketMQ 业务集成典型行业应用和实践
本文讲述了 RocketMQ 的业务消息场景、一些功能特性的使用方法，包括事务消息、定时消息、消息全链路灰度等，欢迎大家尝试使用。
阿里云云原生
362 0
行业实践：RocketMQ 业务集成典型行业应用和实践
阿里云社区
|
自然语言处理 Dubbo Cloud Native
Dubbo 开源、自研、商业化三位一体战略解读 | 学习笔记
快速学习 Dubbo 开源、自研、商业化三位一体战略解读
阿里云社区
227 0
Dubbo 开源、自研、商业化三位一体战略解读 | 学习笔记
SOFAStack社区-可乐
|
SQL 消息中间件 Prometheus
Seata 在蚂蚁国际银行业务的落地实践
蚂蚁国际境外银行业务正在部分迁移至阿里云，原内部使用的 SOFA 技术栈无法在阿里云上得到支持。为了满足银行业务快速发展、简化银行系统技术栈的目标，我们采用了 Spring+Dubbo 等一套开源的技术方案重新构建起了新的技术栈。
SOFAStack社区-可乐
945 0
Seata 在蚂蚁国际银行业务的落地实践
SOFAStack社区-可乐
|
SQL 自然语言处理 Kubernetes
Seata 多语言体系建设
在诸如 gRPC 等微服务体系都在进行多语言建设的当下，分布式事务也应该有多种语言支持。所以在规划 2022 年 Seata Roadmap 时，其中一个非常的关键点就是 Seata 的多语言技术体系建设。在经过半年的准备特别是完成了 Seata v1.5.2 发版后，社区在今年 （2022 年） 下半年的重点任务就是全力建设 Seata 的多语言实现。
SOFAStack社区-可乐
959 0
Seata 多语言体系建设
云原生

中间件

热门文章

最新文章

  • 1
    3分钟，了解阿里云热门开发者工具 Cloud Toolkit
  • 2
    Java编码技巧之高效代码50例
  • 3
    Kafka、RabbitMQ、RocketMQ消息中间件的对比—— 消息发送性能
  • 4
    开发者说：Sentinel 流控功能在 SpringMVC/SpringBoot 上的实践
  • 5
    Kafka、RabbitMQ、RocketMQ 消息中间件的对比 | 消息发送性能篇
  • 6
    Nginx 外的另一选择，轻量级开源 Web 服务器 Tengine 发布新版本
  • 7
    分布式服务架构下的混沌工程实践
  • 8
    中间件学习——metaq
  • 9
    性能压测工具选型对比
  • 10
    头一回见！提升10倍效率，阿里给业务校验平台插上了AI的翅膀
  • 1
    上新丨统一多层网关架构系列视频课程
    15
  • 2
    云消息队列 Kafka 版全面升级：经济、弹性、稳定，成本比自建最多降低 82%
    15
  • 3
    基于 EventBridge + DashVector 打造 RAG 全链路动态语义检索能力
    33
  • 4
    开发者如何使用轻量消息队列MNS
    25
  • 5
    曹操出行借助 ApsaraMQ for Kafka Serverless 提升效率，成本节省超 20%
    45
  • 6
    Golang Agent 可观测性的全面升级与新特性介绍
    61
  • 7
    云原生开源开发者沙龙丨AI 应用工程化专场杭州站邀您参会
    22
  • 8
    开发者如何使用云消息队列 Kafka 版
    37
  • 9
    开发者如何使用云消息队列 MQTT 版
    29
  • 10
    总计 30 万奖金，Spring AI Alibaba 应用框架挑战赛开赛
    49

    • 相关课程

    更多
  • Dubbo开源、自研、商业化三位一体战略解读
  • Serverless 架构在软件研发工程实践方面的价值
  • Lindorm的四大典型场景和实践
  • 企业运维监控平台架构设计与实现
  • 企业级互联网分布式系统应用架构学习
  • 2023云原生编程挑战赛赛题解析

    • 相关电子书

    更多
  • 《Seata 1.3 新特性以及如何参与社区》
  • workshop专场-微服务专场-开发者动手实践营-Fescar 在微服务架构下分布式一致性的实践
  • 行业实践：RocketMQ 业务集成典型行业应用和实践

    • 相关实验场景

    更多
  • SAE极速部署弹性微服务商城
  • 倚天大数据电商数据分析快速实践
  • 云原生HTAP数据库，让你的交易和分析一库搞定
  • 容器DevSecOps全链路体验
  • 【企业数据中台交付】数据回刷实验
  • 多项目规范轻松落地
    • 下一篇
    阿里云无影云电脑免费试用，最长可试用3个月