简单高效的代码优化-事务后异步处理

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
云数据库 Tair(兼容Redis),内存型 2GB
简介: 基于skywalking监控分析,简单高效的优化代码,提升90%+效率,设计事务后异步处理,EventListener,Mysql隔离级别等知识点

背景

以电商平台为例,对于用户而言订单签收是订单正向流程的最后一环,也是用户高频使用的场景之一。

最近接触的一个项目已存在多年,现阶段已有的订单签收逻辑存在较为严重的性能问题,线上监控显示订单的签收接口耗时达到了1s-5s甚至以上,对于用户而言签收会产生明显的页面卡顿。并且随着需要签收的一单内含有的商品越多,签收耗时越长,这显然是无法接受的。基于此,签收的重构便提上了日程。

现状

如下是Skywalking中,对旧签收接口的监控

订单含单个商品时,签收耗时1-1.8s左右:

order-sk-1.png

订单含赠品/或为预售订单时,签收耗时超3s

order-sk-2.png

订单为套装组合时,签收耗时超5s

order-sk-3.png

由于签收服务中包含签收核心逻辑,其余多种签收方式均会走到服务提供的接口

涉及多个服务调用,包含后台签收、用户自己签收、定时任务签收、基于轨迹的签收

核心接口慢,导致该服务在诸多调用情况下TP99居高不下,同时使得常用的批量签收有着惊人的超50s的阻塞式耗时,签收相关接口长期处在监控耗时Top5

order-sk-4.png

order-sk-5.png

可以显而易见地观察到批量任务中50s中有30s都在跑签收

其次,代码上还存在如下典型问题

  • 签收代码逻辑混乱,主流程和次要流程交替出现在代码中,校验混合在各种方法内,次要流程异步化不完善
  • 没有事务控制,无法保证核心流程的幂等性,如果发生意外还需要手动修复数据
  • 潜在的永不过期锁
  • try catch,异常控制粒度过粗
  • 泛型的折叠使用,存在潜在的泛型擦涂问题
  • 单一方法职责不清晰,代码过长导致阅读困难

Service层

order-sk-6.png

order-sk-7.png

Manager层

order-sk-8.png

order-sk-9.png

order-sk-10.png

优化方案

有了问题分析,优化方案就是逐个解决上述问题即可

对于Service层

  1. 将业务校验统一在Service层,结合全局异常,很容易写出整洁的代码
  2. 所有的RemoteResult都必须加上泛型推断,一是需要通过代码检测插件,二是避免泛型擦涂问题,在编译期提前发现问题。关于泛型擦涂问题,这里不做展开涉及。
  3. 新增Redission组件,替换原本的基于lettuce手动编写的加解锁,将加锁代码写入try catch中,避免指令已发送到机器加上了锁,但加锁返回结果超时未被异常捕获,无法解锁,造成永不过期的锁。Redission作为Redis官方指定的分布式Redis组件,无需担心许多分布式场景下的加解锁、续期、释放了非加锁线程的锁等问题,方案拉满,已经非常成熟。这里不做展开涉及。
  4. 细粒度的异常分类,不同异常做出不同处理

优化后的代码为

order-sk-11.png

order-sk-12.png

需要注意的是,这里Service层不需要加入@Transactional事务控制,这样会造成大事务,校验过程有的时候是复杂且耗时的,数据库连接是宝贵的,当事务开启时数据库的连接就会被占用,避免其余线程拿不到连接的情况。

对于Manager层

需要做的是复用签收这个动作会产生的所有数据库/中间件影响,不应该在Manager层存在业务校验

  1. 理清核心流程与分支流程,分支流程全异步化,只在核心流程落库成功后执行
  2. 开启事务控制,所有方法在同一个事务中,要么一起成功,要么一起失败,保证异常情况下的数据幂等性
  3. 分支流程只在事务提交成功后,才开始处理,避免明明数据落库失败了,但下游却收到签收成功了的消息

order-sk-13.png

上图中的事务1、2、3、4的代码结构基本上和下图相同
order-sk-14.png

每一个需要受到事务控制的Manager中的方法都需要加上@Transactionnal的注解,并指定rollbackFortransactionManager,同时在捕获异常后将异常直接抛出,以使得外围事务感知到内部事务异常,使事务回滚

根据@Transactional的默认传播级别Propagation.REQUIRED,事务1、2、3、4都将加入到外层事务中,其中任意一个事务异常,均会使得1、2、3、4回滚,同时后续的分支流程不会执行

需要注意的是,如果你使用@Transactional注解,你应该熟悉该注解的各种失效场景及多种传播机制,避免发生以为有回滚,其实不会回滚的情况。

事务4是操作mongoDb的事务,同样可以用@Transactional注解控制

分支流程

分支流程需要在核心流程数据落库之后才开始处理

如果你熟悉GoogleEventBus或者Spring@EventListener,你可以很快速的迁移知识到Spring @TransactionalEventListener

帮助解耦代码,实现事务提交后异步执行分支流程,@TransactionalEventListener@EventListener的子类,用于支持事务上的Event总线。

Spring中我们可以很方便的使用TransactionSynchronizationManager.registerSynchronization执行事务方法的回调,并实现TransactionSynchronizationAdapter其中的接口即可

如果你研究过@Transactional的原理,那么对事务管理器的处理就并不陌生

order-sk-15.png

在本文中,我们只需要实现afterCommit方法即可,如果在@Transactional的代码中存在事务同步器扩展点,则上文事务执行后,依次会执行扩展点后的方法

Q:TransactionSynchronizationManager.registerSynchronization是必须的吗

A:不是,只有你的Event事件实体(本文的OrderSignEvent)构建依赖于上文事务的结果时,你才需要使用该方法,否则直接采用applicationEventPublisher.pushEvent即可,register只是提供了除注解外手动事务的实现,用于更细微的代码控制

pushEvent之后,我们可以编写对应的监听者

以如下分支流程为例,InsertItemOpen用于签收成功后,通过计算往反向表中插入数据,用于后续的撤单、退货等

order-sk-18.png

直接采用@TransactionalEventListener默认采用单一线程的线程池,同时也不是异步线程,因此需要手动创建出线程池,并加以@Async指定

我们可以指定该方法的执行阶段,这里为TransactionPhase.AFTER_COMMIT,即事务提交之后,监听的classOrderSignEvent.class

TransactionSynchronizationAdapter类似,TransactionPhase枚举分为如下4个阶段,用于@TransactionalEventListener注解上

order-sk-19.png

同时需要注意,如果事务提交后/完成后的event内有执行数据库新增操作,那么他的传播级别就不能是@Transactional的默认传播级别,需要至少修改为Propagation.REQUIRES_NEW,新开一个事务

这样做的原因是因为,此时如果为默认的传播机制,则会加入到上文事务中,但上文事务已经提交了,这时候insert插入数据库实际上是空执行了一次,因为本次执行不会再提交。

线程池配置

order-sk-20.png

线程池避免全局使用同一个线程池,避免某一任务激增导致其余使用该线程池的任务,无法获取线程的问题,同时执行不同种任务的线程池,应该设定线程前缀名,方便链路跟踪

在社区中,阿里开发手册具有类似建议

order-sk-21.png

签收的分支流程分为如下几个大类,重构时可按照不同类型分类监听

tip: 由于监听者是异步线程,所以监听者内部抛出的异常是不能够被全局异常捕获的,我们可以像上文insertItemOpen方法一样,catch住异常再选择是抛出还是打印日志

不同于EventBus,在idea中,天然的支持了Spring Event的跟踪,点击事件发布者左侧绿标,便可以找到对应的事件监听者

order-sk-22.png

点击监听者旁的绿标同样可以回到事件发布者,非常的便捷

order-sk-23.png

优化效果

本文的性能问题不体现在慢SQL上,所以优化方案中并不包含SQL优化处理

同时由于分支流程下游方法的幂等未知性,重构时没有加入分支流程的重试机制,这些方法在重构时都是可以考虑的点。

改造后TP99监控,曲线更加平稳,除异步导出外多数接口在600ms内返回

order-sk-24.png

用户自行签收,从1.8s0.037s效率提升97.94%

Top30内不再看到签收接口的上榜

order-sk-25.png

批量签收返回耗时缩小一个量级,从5w5k效率提升90%

order-sk-26.png

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore     ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
目录
相关文章
|
6月前
|
算法 安全 编译器
并发的三大特性
并发的三大特性
76 1
|
消息中间件 缓存 NoSQL
高并发幂等计数器的设计与实现
高并发幂等计数器的设计与实现
176 0
高并发幂等计数器的设计与实现
|
存储 固态存储 关系型数据库
性能优化特性之:16K原子写
本文介绍了在倚天实例上进行内存优化的调优特性:16K原子写 的优化原理、使用方法。
|
1月前
|
缓存 安全 算法
高性能无锁并发框架Disruptor,太强了!
高性能无锁并发框架Disruptor,太强了!
高性能无锁并发框架Disruptor,太强了!
|
3月前
|
缓存 Java 数据库连接
更简的并发代码,更强的并发控制
更简的并发代码,更强的并发控制
|
4月前
|
消息中间件 JavaScript Java
关于如何提高Web服务端并发效率的异步编程技术
【7月更文挑战第4天】异步编程技术是提升Web服务并发效率的关键。包括: 1. 事件驱动编程,如Node.js的事件回调; 2. 异步任务队列,利用消息队列如RabbitMQ或Kafka解耦处理; 3. 异步I/O,Java的CompletableFuture实现非阻塞操作; 4. 协程,Python的async/await提供同步感的异步执行; 5. 线程/进程池,通过固定资源池管理并发任务,减少系统开销。 这些技术能增强系统性能和响应速度。然而,异步编程也需考虑正确性、稳定性和调试挑战。
|
4月前
|
安全 Java 开发者
Java并发编程:理解并发安全与性能优化
在当今软件开发中,Java作为一种广泛使用的编程语言,其并发编程能力显得尤为重要。本文深入探讨了Java中的并发编程,包括如何确保并发安全性以及优化并发程序的性能。通过分析常见的并发问题和解决方案,读者将能够更好地理解如何利用Java的并发工具包来构建可靠和高效的多线程应用程序。 【7月更文挑战第10天】
59 3
|
4月前
|
安全 Java
使用Java实现简单高效的并发控制
使用Java实现简单高效的并发控制
|
6月前
|
Java 数据库 UED
多线程业务异步处理
多线程业务异步处理
|
Java
并发三大特性
并发三大特性
38 0