阿里巴巴正式开源自研动态非侵入AOP解决方案:JVM-Sandbox-阿里云开发者社区

开发者社区> 新零售淘系技术> 正文

阿里巴巴正式开源自研动态非侵入AOP解决方案:JVM-Sandbox

简介:

写在前面

随着软件部署规模的扩大,系统的功能的细化,系统间耦合度和链路复杂度不断加强。若要继续保持现规模系统的稳定性,需要实现并完善监控体系、故障定位分析、流量录制回放、强弱依赖检测、故障演练等支撑工具平台。出于对服务器规模和业务稳定性的考量,这些配套工具平台要具备对目标应用具有无侵入、实时生效、动态可插拔的特点。

要实现这些,多少都会触及到一块底层技术——动态字节码增强。如果每个工具都自己实现一套字节码增强逻辑,前期实现的门槛与后期维护成本高,且不同工具间相互影响造成不可预知的风险。如何屏蔽字节码增强技术的高门槛,降低研发运维成本,同时又能支持上层多个工具平台功能的快速实现和动态管理,成为阿里集团的目标。从去年开始潜心修行,创新的研发了一套实时无侵入的字节码增强框架。

于是 JVM-Sandbox 诞生了!

应用场景JVM-Sandbox 的目标群体
  • Btrace 好强大,也曾技痒想做一个更便捷、更适合自己的问题定位工具,既可支持线上链路监控排查,也可支持单机版问题定位。
  • 有时候突然一个问题反馈上来,需要入参才能完成定位,但恰恰没有任何日志,甚至出现在别人的代码里,好想开发一个工具可以根据需要动态添加日志,最好还能按照业务 ID 进行过滤。
  • 系统间的异常模拟可以使用的工具很多,可是系统内的异常模拟怎么办,加开关或是用 AOP 在开发系统中实现,好想开发一个更优雅的异常模拟工具,既能模拟系统间的异常,又能模拟系统内的异常。
  • 好想获取行调用链路数据,可以用它识别场景、覆盖率统计等等,覆盖率统计工具不能原生支持,统计链路数据不准确。想自己开发一个工具获取行链路数据。
  • 我想开发录制回放、故障模拟、动态日志、行链路获取等等工具,就算我开发完成了,这些工具底层实现原理相同,同时使用,要怎么消除这些工具之间的影响,怎么保证这些工具动态加载,怎么保证动态加载 / 卸载之后不会影响其他工具,怎么保证在工具有问题的时候,快速消除影响,代码还原。

如果你有以上诉求,那么你就是 JVM-Sandbox 的潜在客户。JVM-Sandbox 提供动态增强类你所指定的类,获取你想要的参数和行信息;提供动态可插拔容器,管理基于 JVM-Sandbox 的模块。

JVM-Sandbox 能做什么?

在 JVM-Sandbox(以下简称沙箱)的世界观中,任何一个 Java 方法的调用都可以分解为BEFORERETURNTHROWS三个环节,由此在三个环节上引申出对应环节的事件探测流程控制机制。不仅如此还有LINE事件,可以完成代码行的记录。

// BEFORE-EVENT
try {

 /*
 * do something...
 */
 //LINE-EVENT
 a();
 // RETURN-EVENT
 return;

} catch (Throwable cause) {
 // THROWS-EVENT
}

基于BEFORERETURNTHROWS三个环节事件以及LINE事件,可以完成很多类 AOP 的操作。

  1. 可以感知和改变方法调用的入参
  2. 可以感知和改变方法调用返回值和抛出的异常
  3. 可以感知一个请求按顺序执行了哪些行
  4. 可以改变方法执行的流程
  • 在方法体执行之前直接返回自定义结果对象,原有方法代码将不会被执行
  • 在方法体返回之前重新构造新的结果对象,甚至可以改变为抛出异常
  • 在方法体抛出异常之后重新抛出新的异常,甚至可以改变为正常返回
JVM-Sandbox 都有哪些可能的应用场景
  • 线上故障定位
  • 线上系统流控
  • 线上故障模拟
  • 方法请求录制和结果回放
  • 动态日志打印
  • 安全信息监测和脱敏
  • 行链路计算和覆盖率统计

JVM 沙箱还能帮助你做很多很多,取决于你的脑洞有多大了。

JVM-Sandbox 在阿里集团的应用 线上故障演练

17 年故障演练平台在 JVM-Sandbox 基础上仅耗时 1 周即完成故障注入部分的系统重构。重构后的系统在挂载效率和挂载成功率方面有了明显的提升,极大的缩短的故障演练的时间,演练效率提升了数十倍。基于 JVM-Sandbox 改造后的故障演练平台,通用性强,所有基于 JVM 启动的系统均支持,极大的拓展了故障演练的范围,故障演练已达到集团级部署。

与 16 年故障演练数据对比,17 年的故障演练平台,覆盖 BU 提升了 1.6 倍,覆盖应用提升了 5 倍,覆盖场景提升了 37 倍。

依赖检测

17 年强弱依赖自动化检测平台诞生。它提供了依赖检测、强弱分析、依赖扫描、故障注入等多种能力,底层能力基于 JVM-Sandbox 在 1 周内完成功能开发。利用其模块容器的特性,将前人开发的模块与新增模块一起挂载共同工作,完成平台功能。

强弱依赖梳理方面,承载了淘宝的系统强弱依赖梳理工作,260+ 个应用一键接入系统,并实现了 0 人工成本的自动化、智能化梳理。

服务端录制隔离回放机制

在 JVM-Sandbox 基础上开发了一个 SS 模块,相当于一个录音机 + 回放机, 在调用中间件的时候, 顺序录制下了我们的中间件请求, 并且存储这份‘磁带’到服务器上。当我们需要隔离回放的时候, 将这份‘磁带’找到, 并且在需要的时候直接从‘磁带’读取, 并不需要真实地请求我们的中间件, 这样就保证了我们的读、写接口也能做到可重复使用,从而实现服务端的隔离回放。

线上录制隔离回放不仅极大的缩短的业务回归的耗时,把业务测试同学从繁琐的数据准备和接口自动化脚本的编写过程中解放出来,而且极大的拓展了覆盖范围,使回归的范围更贴近用户,且场景更丰富。

精准回归

服务端录制隔离回放机制诞生之后,虽然有效的提升了覆盖范围,降低了自动化脚本的人工投入,但是也带来了新的问题。线上录制的场景是海量的,单个系统都可以达到万级、十万级甚至百万级别的录制,这些录制的场景中,存在大量的重复场景,如何识别重复场景,实现有效、精准的回放,成为新的待解决问题。

17 年在 JVM-Sandbox 的基础上,利用 LineEvnet 实现了行链路识别和标记,有效的提升了回放的精准度和效率。

JVM-Sandbox 在阿里集团已经实现全网部署,在其上加载不同的模块实现了不同的功能,每个功能根据 BU 和应用的需要进行加载:

  • 强弱依赖检测功能:覆盖淘宝、天猫、业务平台、菜鸟、飞猪、ICBU、CBU 等 7 个 BU,240+ 个应用;
  • 线上故障演练功能:覆盖集团客户体验事业群、淘宝网、云零售事业部、天猫、业务平台、飞猪、菜鸟、钉钉、阿里健康、CBU、集团安全、支付宝等 16 个 BU,391 个应用;
  • 服务端录制回放:覆盖淘宝网、钉钉 2 个 BU;
  • 精准回归:覆盖淘宝网、业务平台、钉钉 3 个 BU。

通过上边的事例,想必大家对 JVM-Sandbox 是什么,核心功能是什么,还能做哪些事情,以及是否可以为阿里以外的同学提供服务等问题更感兴趣了,下面我们着重介绍这部分内容。

JVM-Sandbox技术背景

故障演练、强弱依赖检测、录制回放、精准回归,要解决这些问题本质就是如何完成 java 方法的环绕管控和运行时行链路的获取,即 AOP 框架的解决方案。目前常用 AOP 框架的解决方案有两种:proxy 和埋点。proxy 的优点在于已实现了统一的 API,减少了重复投入,但是不能实时生效,需要系统编译重启。埋点的优点在于动态生效灵活度高,但是没有统一 API。

要快速解决上边的四个问题,我们需要的 AOP 解决方案必须具备两个特性:

  • 动态可插拔,即实现埋点方式的统一的 API
  • 无侵入性,即解决 JVM 类隔离的问题

基于以上需求,我们研发了 JVM-Sandbox。

JVM-Sandbox 的核心功能

JVM-Sandbox 由纯 Java 编码完成,基于 JVMTI 技术规范,为观察和改变代码运行结果提供了即插即用模块接口的容器,提供核心功能:

  • 使用埋点技术提供统一的 API,来实现无需重启的 AOP 解决方案
  • 使用容器完成 JVM 类隔离,来解决侵入性问题
  • 提供容器管理机制,来完成各种容器的管理
JVM—Sandbox 的核心事件模型

BEFORE、RETURN 和 THROWS 三个环节事件的正常流转和干预流转

aac7f519b4a0f55bd3c040b13cf4bf7e63d23d8f

隔离和通讯

隔离:

  • 沙箱通过自定义的SandboxClassLoader破坏了双亲委派的约定,实现了和观察应用的类隔离。所以不用担心加载沙箱会引起应用的类污染、冲突。
  • 沙箱各模块之间类通过ModuleClassLoader实现了各自的独立,达到模块之间、模块和沙箱之间、模块和应用之间互不干扰。

通讯

  • 通过向 Bootstrap ClassLoader 中注入 Spy 类,完成观察应用与 JVM-Sandbox 的通讯
  • JVM-Sandbox 会将事件分发给各个 Module,完成 JVM-Sandbox 与 Module 之间的通讯
f8c9bc075afa920ab2d2fe84b9ae60c1f01e400b
模块动态管理
  • 事件监控表,完成模块的管理
  • trasform 方法形变原生字节码
8db4c01337d753a773e7bc951f7b6a3b7a31579f

代码编织

插入 Spy 类到字节码中,Spy 方法中反射调用 JVM-Sandbox 的方法。

以 BeforeEvent 为例,进行代码编织展示。

99e77adefe1127eb91f12b99f0bc1883a6b6214f

整体架构

c3ee8155f5724a28da4d40978587ef043c1271f2

沙箱一共由三大核心功能组件构成

  • 代码编织组件

负责完成预设代码的重写和生效

  • 事件处理分发组件

负责完成事件的分发和方法流控控制的执行

  • 模块管理组件

负责控制和管理沙箱的各个模块

沙箱的底层提供了一个 HTTP-SERVER(Jetty),通过 HTTP 协议完成sandbox.sh和沙箱的控制交互,同时也给各个模块提供了基于 HttpServlet 和 WebSocket 规范的 API,各模块可以复用沙箱完成各自模块的控制与交互。

开源和共建

1、已开源,寻求更多的同学一起完善 JVM-Sandbox 的功能。Github 地址:

https://github.com/alibaba/JVM-Sandbox

2、希望有同学和我们一起共同完善 JVM-Sandbox 的功能;

3、希望更多的同学想到跟多的应用场景,并能开源出来供大家使用。

综上,JVM-Sandbox 是一个纯 java 编写的 AOP 解决方案。它为研发人员提供了一个快速实现字节码增强工具的平台。他的模块管理功能可以最大限度的复用模块、协同合作,减少重复投入。

随着 JVM-Sandbox 的开源,我们期待更多的人加入到功能扩张和优化上,使其适配更多的开源中间件和 JVM。

希望有更多的同学,发挥其聪明才智,开发更多、更好的上层模块,提供给自己和其他人的人使用。也希望能够利用好已有的模块,组装出新的工具平台和应用场景。

JVM-Sandbox 建设和应用期待大家共同建设。


原文发布时间为:2018-01-19

本文作者:徐冬晨

本文来自云栖社区合作伙伴“淘宝技术”,了解相关信息可以关注“淘宝技术”微信公众号

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:

淘系技术部隶旗下包含淘宝技术、天猫技术、农村淘宝技术、闲鱼、iHome等团队和业务,是一支是具有商业和技术双重基因的螺旋体。 我们致力于成为全球最懂商业的技术创新团队,打造消费者和商家一体化的新零售智能商业平台,创新商业赛道。随着新零售业务的持续探索与快速发展,我们不断吸引用户增长、机器学习、视觉算法、音视频通信、数字媒体、端侧智能等领域全球顶尖专业人才加入,让科技引领面向未来的商业创新和进步。欢迎投递简历至ruoqi.zlj@taobao.com

官方博客
淘系开源,欢迎star哟