AI 助理
备案控制台
开发者社区 开发与运维 文章 正文

一文解读业务平台升级JDK11的适配之路

2023-02-15 19376
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
本文涉及的产品
性能测试 PTS，5000VUM额度
日志服务 SLS，月写入数据量 50GB 1个月
简介： 业务平台升级JDK11，基于两个出发点：一、jdk8于2019年1月停止维护，springboot2.1之后的版本已经兼容JDK11，springboot3.0完全放弃对JDK8的支持，未来属于更高版本的JDK；二、在试点国产化芯片的过程中，由于JDK8对Arm架构的优化不足，导致国产化芯片无法发挥自身的性能优势，为了更好的适配国产化，务必要求对JDK版本进行升级。基于上述两个出发点，业务平台于21年12月启动了对JDK版本升级的适配之路。这里回顾整个升级过程，对升级过程中的问题做一下记录

业务平台升级JDK11，基于两个出发点：一、jdk8于2019年1月停止维护，springboot2.1之后的版本已经兼容JDK11，springboot3.0完全放弃对JDK8的支持，未来属于更高版本的JDK；二、在试点国产化芯片的过程中，由于JDK8对Arm架构的优化不足，导致国产化芯片无法发挥自身的性能优势，为了更好的适配国产化，务必要求对JDK版本进行升级。基于上述两个出发点，业务平台于21年12月启动了对JDK版本升级的适配之路。这里回顾整个升级过程，对升级过程中的问题做一下记录

一、升级版本的选择

当时有两个JDK版本可供选择，JDK11、JDK17，从长远开来，JDK17更代表未来，但由于JDK11 相比JDK17的变化并不大，相比之下从JDK11升级到JDK17的挑战要相对小。由于升级的基本都是电商核心系统，基于风险的控制，从JDK8升级到JDK11，随后再从JDK11升级到JDK17是一个更合理的选择。

二、GC选择及功能适配

业务平台核心系统使用了非常多的定制化功能，比如GCIH、CMS GC、异步日志、Wisp、Jwarmup、UncommonNullCast、多租户，为了减少对业务的影响，同时保障JDK11相比JDK8不会产生性能的退化，相关的特性均需要在JDK11上进行适配。同时为了避免GC算法的调整对业务运维及稳定性的影响，升级初期决定依旧使用CMS GC，仅灰度少量的G1

特性

特性说明

GCIH

营销利用GCIH缓存营销数据，大促强依赖的特性

CMS GC

核心业务使用的GC算法，为了避免对业务使用上的影响，需要保留Cms GC的支持

异步GC日志

GC日志异步化，降低业务的影响

Wisp

协程支持，buy2、carts2上均在使用，对业务的性能3-5%的性能优化

JWarmup

启动预热，核心系统利用该功能降低启动过程中C1、C2带来的CPU飙升，业务抖动问题

UncommonNullCast

-XX:CompileCommand=

退优化相关的优化参数，避免部分场景下退优化带来的性能问题

-Dcom.alibaba.jdk.verifyECDSATrailing

跳过ECDSA尾部零校验，兼容老的ECDSA数据，Tp3和支付宝交互中，需要依赖

三、升级JDK11相关组件的升级

在升级JDK11的过程中，业务代码的改造只是其中之一，还涉及到业务依赖的各种组件之间的升级适配，包括Pandora、Tomcat、星环容器、天启、Doom、天擎等测试工具的升级支持

组件

升级改造点

Tomcat

非Pandoraboot的应用，强依赖Tomcat，目前大部分业务使用的依旧是Tomcat7，但Tomcat7 本身对JDK11的支持存在问题（ECJ的版本过低，在存在动态编译代码的情况下，比如：jsp、模板预演、groovy等，由于不识别jdk11，将目标代码编译成低版本的代码，导致性能及功能受损）。由于tomcat7 和tomcat8对jar包加载的顺序有了调整，导致升级到tomcat8成本会相对较高，为了降低改造成本，对tomcat7进行改造。（https://bz.apache.org/bugzilla/show_bug.cgi?id=57129）

最新的版本： taobao-tomcat-7.0.108.ecj

Pandora

Pandora各组件对JDK11的版本支持，在项目启动之初，Pandora已经在对JDK11进行了适配，但在实际升级使用中，依旧发生了一些不兼容的问题，期间主要有

  • 服务端使用JDK11版本运行，客户端使用JDK8的场景下，服务端抛的异常经过Hession序列化后，无法在JDK8上进行反序列化的情况。该问题前期评估，主要是客户端感知的错误发生变化，风险可控，实际在上线过程中，消费者侧的感知发生变化。

最新的版本： 2022-07-stable

天启

天启作为业务平台最核心的测试用力回归工具，在整个适配开始之初，就作为高优先级适配，天启内部使用了很多序列化及记录Record的过程，本身为了做代码增强，使用了相对较多的hack的方式，因此这部分改造及适配成本最大，适配过程中，一方面需要调整doom的依赖，另外一方面需要保障测试用力能正常回归

天擎

天擎作为业务平台预发环境隔离的工具，预发回归测试均需要进行依赖。这部分的改造也需要提前进行适配。

四、灰度及上线流程的选择

业务平台核心应用很多都是伴随taobao业务成长起来的应用，具有历史代码多、依赖组件广的特点，核心系统中存在非常多的二三方包依赖，在升级之初考虑使用JDK提供的兼容性扫描工具进行分析，但在实操过程中，扫描到的不兼容代码过多，但实际上大部分并没有使用到的情况。如果按照扫描出来的结果推动相关二三方包的适配，整个工程量是完全无法评估的，整个升级节奏也无法把控。为了解决该问题，我们决定整体的升级节奏调整并不追求完全的代码兼容。只对实际影响业务运行的代码做兼容处理。因为整体的升级节奏也就变成了如下几步

  1. 1) 代码使用JDK8进行编译，但要求代码可以同时在JDK8及JDK11上运行
  2. 2) 上线过程中，先将日常及预发环境的版本切换成JDK11和JDK8同时运行，回归测试过程中同时测试JDK11、JDK8版本下的运行情况
  3. 3) 线上逐步灰度JDK11运行环境的功能，做好监控及线上排查定位。随着几次大促下来后，逐步将所有的容器切换到JDK11，下线JDK8环境的容器。
  4. 4) 利用运行态的JDK11特性，优化系统性能
  5. 5) 将编译从JDK8切换到JDK11 ，同时充分JDK11本身的新的特性。
  6. 基于上述的升级步骤，对业务代码的升级改造也做了调整，业务在使用过程中，同时安装JDK8和JDK11，业务利用脚本的方式控制线上的JDK11及JDK8的灰度比例。同时经过多轮大促： 38大促灰度10台容器、日常灰度100台、618灰度一个单元、99大促灰度所有机房
if [ -f /home/admin/logs/jdk11.enable ]; thenexportJAVA_HOME=/opt/taobao/install/ajdk11_11.0.14.13/
exportJDK11_ENABLE=trueecho"enable jdk11 , use new JAVA_HOME : ${JAVA_HOME}"fi​
​
if [ "$JDK11_ENABLE"=="true" ]; thenCATALINA_OPTS="${CATALINA_OPTS} -Xlog:gc*:${MIDDLEWARE_LOGS}/gc.log:time"CATALINA_OPTS="${CATALINA_OPTS} --add-exports=java.base/jdk.internal.loader=ALL-UNNAMED --add-exports=java.base/jdk.internal.loader=jdk.unsupported --patch-module jdk.unsupported=/home/admin/buy2/bin/java9-migration-helper-0.1.jar"CATALINA_OPTS="${CATALINA_OPTS} -Dio.netty.tryReflectionSetAccessible=true --add-opens=java.base/jdk.internal.misc=ALL-UNNAMED --add-opens=java.base/java.nio=ALL-UNNAMED"CATALINA_OPTS="${CATALINA_OPTS} --add-exports=java.base/jdk.internal.util.jar=ALL-UNNAMED --add-exports=java.base/jdk.internal.util.jar=jdk.unsupported"CATALINA_OPTS="${CATALINA_OPTS} --add-opens=java.base/com.alibaba.wisp.engine=ALL-UNNAMED"CATALINA_OPTS="${CATALINA_OPTS} -XX:CompileCommand=stableif,*::*"    test -z"$JPDA_ADDRESS" && exportJPDA_ADDRESS=*:8000
#gson兼容CATALINA_OPTS="${CATALINA_OPTS} -Djava.locale.providers=COMPAT,SPI"elseCATALINA_OPTS="${CATALINA_OPTS} -Xloggc:${MIDDLEWARE_LOGS}/gc.log -XX:+PrintGCDetails -XX:+PrintGCDateStamps"CATALINA_OPTS="${CATALINA_OPTS} -XX:-UncommonNullCast -XX:CompileCommand=stableif,*::*"    test -z"$JPDA_ADDRESS" && exportJPDA_ADDRESS=8000fi


五、二三方包适配及改造

JDK11相比JDK8之间的关键的变化

参考：Oracle JDK Migration Guide

● 版本号格式的变化

● 本地化的优先级变化

● module化

● 废弃代码清理

● JDK日志架构变化

由于业务代码中旧的代码量较多，为了减少整个升级的复杂度，整体的升级策略，以兼容旧的代码逻辑为主，尽可能的升级到新的版本中（并不是使用jdk11的最佳实践进行直接升级）。

在实际的适配过程中，发现主要的兼容问题集中在版本号格式的变化带来的不兼容。对于这部分代码逻辑主要要求相关业务进行改进即可，对于一些无法找到维护者的二方包来说，直接通过反编译的方式进行整体改造。

二方包

兼容版本

改造原因

citrus-webx-all-in-one

3.2.4.1-jdk11

JDK11版本号格式变化，导致无法启动，由于目前已经无法找到对应维护者，针对这部分二方包，反编译后提交仓库供业务使用。

toolkit-webx-all-in-one

2.0.3-jdk11

toolkit.common.lang

com.alibaba.toolkit:toolkit-common-lang:jar

1.0-jdk11

citrus-webx-all-in-one

3.2.4.1-jdk11

forest-store

8.1.11

使用了非公开的类，在升级到jdk11后，相关的类发生了变化，需要做响应的改造升级

ip-client

5.5.69

sic-client

1.5.33

com.alibaba.ultron:common-sdk-datasource:1.0.0-buy2.0-4

1.0.0-jdk11-beta.2

common-uic-common

3.8.8-jdk11 +

com.cainiao.cdc:cdc-client

com.cainiao.cdc:cdc-common

1.13.25

使用了unsafe的包，导致在升级到JDK11后，相关的类无法使用

gson

2.8.9

由于JDK11的本地化变化，导致gson在解析时间格式上存在不兼容的情况，升级gson版本，同时在启动时添加 -Djava.locale.providers=COMPAT,CLDR 参数。https://github.com/google/gson/pull/1211

六、JDK11参数改造

参数

变化原因

-XX:+CMSParallelFullGC

CMS并行gc相关的参数，jdk11版本移植成本较高，在新版本中不做支持

-Xlog:gc*:${MIDDLEWARE_LOGS}/gc.log:time

Xloggc:${MIDDLEWARE_LOGS}/gc.log -XX:+PrintGCDetails -XX:+PrintGCDateStamps jdk11中调整了统一日志框架支持，需要新的框架支持

-Djava.locale.providers=COMPAT,SPI

在jdk11下增加-Djava.locale.providers=COMPAT,SPI参数，避免因为本地化的问题，带来一些不兼容的情况，目前在业务平台测试下来，主要是gson低版本中会出现无法解析日期格式的情况，为了保证在jdk11下的兼容性，需要将gson升级到2.8.9，同时在jdk11环境下添加-Djava.locale.providers=COMPAT,SPI 启动参数

--add-exports=java.base/jdk.internal.loader=ALL-UNNAMED --add-exports=java.base/jdk.internal.loader=jdk.unsupported --add-exports=java.base/jdk.internal.util.jar=ALL-UNNAMED --add-exports=java.base/jdk.internal.util.jar=jdk.unsupported --add-opens=java.base/com.alibaba.wisp.engine=ALL-UNNAMED --patch-module jdk.unsupported=/home/admin/ump2/bin/java9-migration-helper-0.1.jar

由于module化改造，jdk11下部分package并不会对业务module开放，为了兼容早期的业务代码，需要通过add-exports、add-opens做临时放开，确保在jdk11上能正常运行，同时部分原本jdk内部类的方法签名发生了变化，为了减少迁移的成本，JDK团队提供了migrationjar包，需要通过--patch-module主动引入进来。

JPDA_ADDRESS=*:8000

在jdk11中，JPDA默认只绑定127.0.0.1 IP，在日常及预发需要远程debug的场景下，需要调整启动脚本，使用JPDA_ADDRESS=*:8000, 指定JPDA监听所有的IP

-Dio.netty.tryReflectionSetAccessible=true --add-opens=java.base/jdk.internal.misc=ALL-UNNAMED --add-opens=java.base/java.nio=ALL-UNNAMED

JDK11升级后，netty的内存回收机制会带来堆外内存增长

七、从JDK8升级到JDK11后的性能表现

Buy2性能对比

压测方式： 中心固定容器，重启后压测近似时间后，通过tsar统计5分钟的平均数据

机器IP： buy2xxxxx.center.na610

机型： F6X， CPU： 8269CY， CPU MHz：3200

性能结论： JDK11版本相比JDK8相同qps (45.56)，CPU降低 5% （63.27/60-1); RT降低：10% (232.49/210.03 -1)

JDK版本

压测数据指标

JDK11

cpu util : 60%

user: 54%

bytin: 6.6M

bytout: 13.3M

qps: 45.56

rt: 210.03

JDK8

cpu util : 63.27%

user: 56.18%

bytin: 6.7M

bytout: 13.5M

qps: 45.67

rt: 232.49

购物车性能对比

压测方式： 选取两台中心的容器，分别部署JDK11和JDK8的环节，比较两者在压测期间的各项指标，整体差异对比

机型： F6X， CPU： 8269CY， CPU MHz：3200

性能结论： 中心X86机型上，JDK11相比JDK8，相同qps下，CPU降低 5%（65.55/62.31-1）;

指标

JDK8

JDK11

cpu

65.55

62.31

内存占用率

19.77

19.82

GC次数

67

65

GC耗时

1110

710

非堆内存利用率

33.29

39.46

metaspace利用率

55.05

71.64

UMP2性能对比

压测机器型号： 6核48G cpu型号：Intel(R) Xeon(R) Platinum 8269CY CPU @ 2.50GHz moc1.5

压测方式：不同环境打相同的业务流量，观察系统指标表现

压测结论： 相同流量下，JDK8相比JDK11 CPU开销优化并不明显，MS有上涨

JDK8

JDK11

CPU

38.5%（user31.5%）

38.3%（user31.3%）

YGC频率

30次/分钟

28次/分钟

线程数

1806（running：771）

1796（running：746）

网络

IN:19 OUT:17

IN:18.7 OUT:17.2

QPS总量

785

790

RT

11

10.4

Metaspace

74.31%

77.32%

整体从性能表现看，部分容器在升级到JDK11后，x86环境下性能有一定的提升，但并不明显，同时由于JDK11本身类结构上的描述信息增加，Codecache分代等特性的增加，会导致应用的Metaspace增加。

七、G1 GC测试验证

在大促期间，核心系统依旧使用了Cms GC，但核心应用均保留了几台容器用作G1测试验证，同时为了降低CMS gc的延迟对业务的影响，UMP2的导购分组在大促期间，全部切换到了G1 GC。在双十二期间，四大金刚从G1测试体验下来，GC效率均有一定的提升。期间在使用过程中，并不是直接升级到G1后，就能带来GC及性能上的收益，在压测期间，buy2、carts2均出现升级到G1后，性能出现衰减的情况。

image.png

image.png

联合JVM排查下来，主要是由于G1的自适应算法不足，导致GC频繁，进而导致了业务的性能衰减。随后调整GC参数后，问题解决。目前Buy2使用的G1的Gc参数如下

exportG1_ENABLE=falseif [ -f /home/admin/logs/g1.enable ]; thenexportG1_ENABLE=trueecho"enable g1"fiif [ "$G1_ENABLE"=="true" ]; thenCATALINA_OPTS="${CATALINA_OPTS} -Xms9500m -Xmx9500m"CATALINA_OPTS="${CATALINA_OPTS} -XX:+UseG1GC"CATALINA_OPTS="${CATALINA_OPTS} -XX:G1HeapRegionSize=32m"CATALINA_OPTS="${CATALINA_OPTS} -XX:+G1BarrierSkipDCQ"CATALINA_OPTS="${CATALINA_OPTS} -XX:InitiatingHeapOccupancyPercent=40"CATALINA_OPTS="${CATALINA_OPTS} -XX:-G1UseAdaptiveIHOP"CATALINA_OPTS="${CATALINA_OPTS} -XX:G1HeapWastePercent=2"elseCATALINA_OPTS="${CATALINA_OPTS} -Xms10g -Xmx10g"CATALINA_OPTS="${CATALINA_OPTS} -Xmn5632m"CATALINA_OPTS="${CATALINA_OPTS} -XX:+CMSScavengeBeforeRemark"CATALINA_OPTS="${CATALINA_OPTS} -XX:+UseConcMarkSweepGC -XX:CMSMaxAbortablePrecleanTime=5000"CATALINA_OPTS="${CATALINA_OPTS} -XX:+CMSClassUnloadingEnabled -XX:CMSInitiatingOccupancyFraction=80 -XX:+UseCMSInitiatingOccupancyOnly"fi

性能数据参考

image.png

展望

在交易链路核心系统升级到JDK11后，后续希望能更充分的利用JDK11生态带来的便利性，探索JDK11对启动优化、对开发便捷性、新版Springboot带来的性能提升。

文章标签：
性能测试
日志服务
Java
容器
测试技术
应用服务中间件
关系型数据库
tsar
Oracle
芯片
算法
缓存
关键词：
升级jdk
平台jdk
相关实践学习
通过性能测试PTS对云服务器ECS进行规格选择与性能压测
本文为您介绍如何利用性能测试PTS对云服务器ECS进行规格选择与性能压测。
岱泽
目录
相关文章
一只牛博
|
6月前
|
Java 测试技术 API
深度剖析JDK 11全新特性：编程艺术的巅峰之作
深度剖析JDK 11全新特性：编程艺术的巅峰之作
一只牛博
85 0
一只牛博
|
6月前
|
JSON 编解码 Java
Java升级：JDK 9新特性全面解析“
Java升级：JDK 9新特性全面解析“
一只牛博
158 0
1941623231718325
|
2月前
|
Oracle Java 关系型数据库
【颠覆性升级】JDK 22：超级构造器与区域锁，重塑Java编程的两大基石！
【9月更文挑战第6天】JDK 22的发布标志着Java编程语言在性能和灵活性方面迈出了重要的一步。超级构造器和区域锁这两大基石的引入，不仅简化了代码设计，提高了开发效率，还优化了垃圾收集器的性能，降低了应用延迟。这些改进不仅展示了Oracle在Java生态系统中的持续改进和创新精神，也为广大Java开发者提供了更多的可能性和便利。我们有理由相信，在未来的Java编程中，这些新特性将发挥越来越重要的作用，推动Java技术不断向前发展。
1941623231718325
67 7
阿里云开发者
|
3月前
|
安全 Java 测试技术
一文帮你搞定JDK8升级11
本文记录了作者从JDK8升级到11的实践过程和升级后的效果以及JDK11新玩法。
阿里云开发者
98 10
嘟嘟嘟嘟嘟嘟
|
3月前
|
Java API
JDK8到JDK25版本升级的新特性问题之使用Collectors.teeing()来计算一个列表中学生的平均分和总分如何操作
JDK8到JDK25版本升级的新特性问题之使用Collectors.teeing()来计算一个列表中学生的平均分和总分如何操作
嘟嘟嘟嘟嘟嘟
86 3
嘟嘟嘟嘟嘟嘟
|
3月前
|
Java API Apache
JDK8到JDK24版本升级的新特性问题之在Java中，HttpURLConnection有什么局限性，如何解决
JDK8到JDK24版本升级的新特性问题之在Java中，HttpURLConnection有什么局限性，如何解决
嘟嘟嘟嘟嘟嘟
105 3
嘟嘟嘟嘟嘟嘟
|
3月前
|
Oracle Java 关系型数据库
JDK8到JDK29版本升级的新特性问题之未来JDK的升级是否会成为必然趋势，如何理解
JDK8到JDK29版本升级的新特性问题之未来JDK的升级是否会成为必然趋势，如何理解
嘟嘟嘟嘟嘟嘟
70 1
嘟嘟嘟嘟嘟嘟
|
3月前
|
Oracle 安全 Java
JDK8到JDK28版本升级的新特性问题之在Java 15及以后的版本中，密封类和密封接口是怎么工作的
JDK8到JDK28版本升级的新特性问题之在Java 15及以后的版本中，密封类和密封接口是怎么工作的
嘟嘟嘟嘟嘟嘟
66 1
番茄酱脑袋
|
3月前
|
Java API 开发者
JDK8到JDK17版本升级的新特性问题之SpringBoot选择JDK17作为最小支持的Java lts版本意味着什么
JDK8到JDK17版本升级的新特性问题之SpringBoot选择JDK17作为最小支持的Java lts版本意味着什么
番茄酱脑袋
121 0
JDK8到JDK17版本升级的新特性问题之SpringBoot选择JDK17作为最小支持的Java lts版本意味着什么
嘟嘟嘟嘟嘟嘟
|
3月前
|
算法 Java iOS开发
JDK8到JDK27版本升级的新特性问题之JDK 17中G1在资源占用方面有何变化
JDK8到JDK27版本升级的新特性问题之JDK 17中G1在资源占用方面有何变化
嘟嘟嘟嘟嘟嘟
75 0

热门文章

最新文章

  • 1
    jdk1.5新特性5之枚举之枚举类型的应用
  • 2
    关于安装多个版本jdk之后java -version不正确的问题
  • 3
    在Spring中使用JDK定时器实现调度任务
  • 4
    jdk的安装与配置
  • 5
    Red Hat5.5安装JAVA（JDK）显示的版本不对
  • 6
    linux下的firefox安装jdk
  • 7
    AOP动态代理解析4-jdk代理的实现
  • 8
    报错：java.lang.ClassNotFoundException: com.mysql.cj.jdbc.Driver at java.base/jdk.internal.loader.Bui
  • 9
    JDK1.7环境的搭建
  • 10
    安装jdk
  • 1
    java接口防爬虫
    127
  • 2
    day14：Java零基础-条件运算符
    40
  • 3
    Java并发编程中的锁机制与性能优化
    50
  • 4
    深入理解Java虚拟机：垃圾收集机制的演变与最佳实践
    49
  • 5
    《手把手教你》系列基础篇（九十五）-java+ selenium自动化测试-框架之设计篇-java实现自定义日志输出（详解教程）
    294
  • 6
    Java并发编程之线程池深度解析
    61
  • 7
    Java中的并发编程：从基础到高级
    62
  • 8
    Java并发编程中的线程安全性与性能优化
    53
  • 9
    《手把手教你》系列基础篇（九十四）-java+ selenium自动化测试-框架设计基础-POM设计模式实现-下篇（详解教程）
    46
  • 10
    Spring Boot框架在java领域的优势
    74

    • 相关课程

    更多
  • Java面试疑难点解析 - 面试技巧及语言基础
  • Java面试疑难点解析 - Java Web开发
  • Java面试疑难点解析 - 系统架构及项目设计
  • Java编程入门
  • Java面向对象编程
  • Java高级编程

    • 相关电子书

    更多
  • Spring Cloud Alibaba - 重新定义 Java Cloud-Native
  • The Reactive Cloud Native Arch
  • JAVA开发手册1.5.0

    • 相关实验场景

    更多
  • 基于ECS搭建Java Web开发环境
  • 使用Aliyun Java Intializr进行项目开发
  • 搭建Java Web开发环境
  • 部署基于Dragonwell的Java运行环境
  • 基于函数计算快速搭建Zblog等传统应用框架
  • 灵活弹性的PolarDB Serverless确保数据业务持续在线
    • 下一篇
    阿里云OSS设置跨域访问