《Java应用提速(速度与激情)》——一、maven构建提速(上)

本文涉及的产品
全局流量管理 GTM,标准版 1个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
云解析 DNS,旗舰版 1个月
简介: 《Java应用提速(速度与激情)》——一、maven构建提速(上)

1. 现状

 

maven其实并不是拖拉机。

 

相对于ant时代来说,maven是一辆大奔。但随着业务越来越复杂,我们为业务提供服务的软件也越来越复杂。虽然我们在提倡要降低软件复杂度,但对于复杂的业务来说,降低了复杂度的软件还是复杂的。

 

在这些年,随着业务竞争越来越激励,业务越来越复杂,软件也越来越复杂。而maven却还是几年的版本。在2012年推出maven3.0.0以来,直到现在的2022年,正好十年,但maven最新版本还是3系列3.8.6。所以在十年后的今天,站在复杂软件面前,maven变成了一辆拖拉机。

 

编码也是一种艺术,对于我们一线研发同学来说,每个人都期望变成一名艺术家,而不是一个码农。但如一次构建大于3分钟,会将我们从一名高雅的艺术家沦为一名焦虑的码农,因为项目的deadline是放的那么地显眼。

 

我们可能有过这样体验,编码几分钟,代码提交后,CI/CD中的构建却要10多分钟。特别是在项目联调阶段,代码修改会越频率,但一天解决不了几个BUG因为时间都花在等待构建阶段上了。

 

我们曾经错过了多少个夏天的晚霞与秋天的朝霞,都是因为等待构建与编译而工作到凌晨。

 

2. 解决方案

 

在这十年,虽然maven还是停留在主版本号是3,但当今业界也不断出现了优秀的构建工具,如gradlebazel。但因各工具的生态不同,同时工具间迁移有成本与风险,所以目前在Java服务端应用仍是以maven构建为主。所以我们在apache-maven的基础上,参照gradlebazel等其它工具的思路,进行了优化,并以“amaven”命名。

 

因为amaven完全兼容apache-maven,所支持的命令与参数都兼容,所以对我们研发同学来说,只要修改一个maven的版本号。

 

3. 效果

 

从目前试验来看,对于mvn build耗时在3分钟以上的应用有效果。对于典型应用从2325秒降到188秒,提升了10倍多。

 

我们再来看持续了一个时间段后的总体效果,典型应用使用amaven后,构建耗时p95的时间有较明显下降,对比使用前后二个月的构建耗时降了50%左右。

image.png 

 

4. 原理

 

如果说发动机是一辆车的灵魂,那依赖管理就是maven的灵魂。

 

因为maven就是为了系统化的管理依赖而产生的工具。使用过maven的同学都清楚,我们将依赖写在pom.xml中,而这依赖又定义了自己的依赖在自己的pom.xml。通过pom文件的层次化来管理依赖的确让我们方便很多。

 

我们平常说的maven其实指二样东西,一个是maven工具,一个是maven仓库。

 

maven工具主要是mvn命令,我们在执行mvn compile等命令时,maven会先不断解析pom中的依赖,如某个依赖本地没有则会从maven仓库下载到本地,再递归解析与下载“依赖的依赖”,最后生成一个dependencyGraph,然后再将graph中的依赖的jar列表成classPath中的参数进行Javac,从而完成一次编译。如再加上一些插件执行,则一次典型的maven构建过程,会是这样:

 image.png

 

从上图可以看出,maven构建主要有二个阶段,而第一阶段是第二阶段的基础,基本上大部分的插件都会使用第一阶段产生的依赖树:

 

解析应用的pom及依赖的pom,生成依赖树;在解析过程中,一般还会从maven仓库下载新增的依赖或更新了的snapshot包。

 

执行各maven插件。

 

我们也通过分析实际的构建日志,发现大于3分钟的maven构建,瓶颈都在“生成依赖树”阶段。而“生成依赖树”阶段慢的根本原因是一个module配置的依赖太多太复杂,它表现为:

 

依赖太多,则要从maven仓库下载的可能性越大。

依赖太复杂,则依赖树解析过程中递归次数越多。

 

既然说发动机是车子的灵魂,那要让车子跑的更快,最核心的就要不断改造发动机的性能;既然说依赖管理是maven的灵魂,那要让maven执行的快,最核心的就要不断“改造”依赖分析的性能。

 

在amaven中通过优化依赖分析算法,与提升下载依赖速度来提升依赖分析的性能。除此之外,性能优化的经典思想是缓存增量,与分布式并发,我们也遵循这个思想。

 

既然生成依赖树的代价大,那我们就将依赖树缓存起来(直接缓存与复用肯定比重新解析一次快),因为在实际开发过程中,修改自己的Java代码的概率远大于修改应用的pom。同时,如一个应用,特别是大库应用,当它的module可能有几十个,或几百个时,则要使用分布式并发构建的方案,将互不依赖的的module启多线程,甚至分配到不同的编译机上去同时构建。

 

因为maven自己也是Java程序,所以为了尽可能降低字节码在运行时转成机器码的开销,我们也考虑了daemon方案。所以总的加速思路如下:

 

image.png 

 

而当以上思路在不断落地过程中,amaven也不断地C/S化了,即amaven不再是一个client,而有了server端,同时将部分复杂的计算从client端移到了server端。而当client越做越薄,server端的功能越来越强大时,server的计算所需要的资源也会越来越多,将这些资源用弹性伸缩来解决,慢慢地amaven云化了。

 

从单个client到C/S化再到云化,这也是一个工具不断进化的趋势所在。

 

1) 依赖树

 

a) 依赖树缓存

 

既然依赖树生成慢,那我们就将这依赖树缓存起来。缓存后,这依赖树可以不用重复生成,而且可以不同人,不同的机器的编译进行共享。使用依赖树缓存后,一次典型的mvn构建的过程如下:

 

image.png 

 

从上图中可以看到amaven-server,它主要负责依赖树缓存的读写性能,保障存储可靠性,及保证缓存的正确性等。

 

b) 依赖树生成算法优化

 

虽在日常研发过程中,修改pom文件的概率较修改应用Java低,但还是有一定概率;同时当pom中依赖了较多SNAPSHOT且SNAPSHOT有更新时,依赖树缓存会失效掉。所以还是会有不少的依赖树重新生成的场景。所以还是有必要来优化依赖树生成算法。

 

在maven2及maven3版本中,包括最新的maven3.8.5中,maven是以深度优先遍历(DF)来生成依赖树的

 

(在社区版本中,目前master上已经支持BF,但还未发release版本:

https://github.com/apache/maven-resolver/blob/master/maven-resolver-impl/src/main/java/org/eclipse/aether/internal/impl/collect/bf/BfDependencyCollector.java)。

 

在遍历过程中通过debug与打日志发现有很多相同的gav或相同的ga会被重复分析很多次,甚至数万次。

 

树的经典遍历算法主要有二种:深度优先算法(DF)及广度优先算法(BF)BF与DF的效率其实差不多的。在有些场景,是DF更快,在有些场景,是BF更快。DF一般用stack数据结构,BF一般用queue数据结构。

 

树的二种遍历算法本没有根本的孰好孰坏之分,但当结合maven的版本仲裁机制考虑会发现有些差异。

 

我们再来看看maven的仲裁机制

 

无论是maven2还是maven3,最主要的仲裁原则就是depth。相同ga或相同gav,谁更deeper,谁就skip。当然仲裁的因素还有scopeprofile等。考虑根据depth来仲裁的机制,按层遍历会更优,因为可以比DF更容易结合按depth仲裁。如下图,如按层来遍历,则红色的二个D1D2就会skip掉,不会重复解析。(注意,实际场景是C的D1还是会被解析,因为它更左)。按层遍历也就是BF。

 

image.png

 

所以小结下,对于树的遍历算法本身来说,DF与BF效率是差不多的。但对于maven3.5.0的依赖树生成逻辑来说,是因为在BF中可以先加上按depth仲裁逻辑,才会比DF快。

 

即算法优化的思路是:“提前修枝”。之前maven3的逻辑是先生成依赖树再版本仲裁,而优化后是边生成依赖树边仲裁。就好比一个树苗,要边生长边修枝,而如果等它长成了参天大树后则修枝要累死人。

 

image.png

c) 依赖下载优化

 

maven在编译过程中,会解析pom,然后不断下载直接依赖与间接依赖到本地。一般本地目录是.m2。对一线研发来说,本地的.m2不太会去删除,所以除非有大的重构,每次编译只有少量的依赖会下载。

 

但对于CICD平台来说,因为编译机一般不是独占的,而是多应用间共享的,所以为了应用间不相互影响,每次编译后可能会删除掉.m2目录。这样,在CICD平台要考虑.m2的隔离,及当.m2清理后要下载大量依赖包的场景。

 

而依赖包的下载,是需要经过网络,所以当一次编译,如要下载上千个依赖,那构建耗时大部分是在下载包,即瓶颈是下载。

 

增大下载并发数

 

依赖包是从maven仓库下载。maven3.5.0在编译时默认是启了5个线程下载。我们可以通过aether.connector.basic.threads来设置更多的线程如20个来下载,但这要求maven仓库要能撑得住翻倍的并发流量。所以我们对maven仓库进行了架构升级,根据包不同的文件大小区间使用了本地硬盘缓存,redis缓存等包文件多级存储来加快包的下载。

 

下表是对热点应用A用不同的下载线程数来下载5000多个依赖得到的下载耗时结果比较:

 

image.png

 

在amaven中我们加了对下载耗时的统计报告,包括下载多少个依赖,下载线程是多少,下载耗时是多少,方便大家进行性能分析。如下图:

 

image.png 

 

同时为了减少网络开销,我们还采用了在编译机本地建立了mirror机制。

 

本地mirror

 

在CI/CD平台构建时为避免重复下载同一个依赖文件架构可能是这样的

 

image.png

架构1.0共享.m2

 

这架构会有依赖包的准确性问题

 

在一个node上会编译很多应用而每个应用编译时指定的maven仓库可能不一样如果volume同一个.m2目录当应用A下载从仓库a下载了maven-compiler-plugin:3.8.1后应用B它指定了从仓库b下载依赖但当它编译时发现.m2目录已经有maven-compiler-plugin:3.8.1了就不会下载了当仓库a与仓库b中maven-compiler-plugin:3.8.1的文件的checksum不同时就会让应用B在构建或运行时出现问题


更多精彩内容,欢迎观看:

《Java应用提速(速度与激情)》——一、maven构建提速(下)https://developer.aliyun.com/article/1223854?groupCode=java

相关文章
|
19天前
|
JSON Java Apache
非常实用的Http应用框架,杜绝Java Http 接口对接繁琐编程
UniHttp 是一个声明式的 HTTP 接口对接框架,帮助开发者快速对接第三方 HTTP 接口。通过 @HttpApi 注解定义接口,使用 @GetHttpInterface 和 @PostHttpInterface 等注解配置请求方法和参数。支持自定义代理逻辑、全局请求参数、错误处理和连接池配置,提高代码的内聚性和可读性。
|
28天前
|
人工智能 前端开发 Java
基于开源框架Spring AI Alibaba快速构建Java应用
本文旨在帮助开发者快速掌握并应用 Spring AI Alibaba,提升基于 Java 的大模型应用开发效率和安全性。
基于开源框架Spring AI Alibaba快速构建Java应用
|
21天前
|
SQL Java 数据库连接
从理论到实践:Hibernate与JPA在Java项目中的实际应用
本文介绍了Java持久层框架Hibernate和JPA的基本概念及其在具体项目中的应用。通过一个在线书店系统的实例,展示了如何使用@Entity注解定义实体类、通过Spring Data JPA定义仓库接口、在服务层调用方法进行数据库操作,以及使用JPQL编写自定义查询和管理事务。这些技术不仅简化了数据库操作,还显著提升了开发效率。
34 3
|
29天前
|
SQL Java 数据库连接
在Java应用中,数据库访问常成为性能瓶颈。连接池技术通过预建立并复用数据库连接,有效减少连接开销,提升访问效率
在Java应用中,数据库访问常成为性能瓶颈。连接池技术通过预建立并复用数据库连接,有效减少连接开销,提升访问效率。本文介绍了连接池的工作原理、优势及实现方法,并提供了HikariCP的示例代码。
44 3
|
29天前
|
存储 Java 关系型数据库
在Java开发中,数据库连接是应用与数据交互的关键环节。本文通过案例分析,深入探讨Java连接池的原理与最佳实践
在Java开发中,数据库连接是应用与数据交互的关键环节。本文通过案例分析,深入探讨Java连接池的原理与最佳实践,包括连接创建、分配、复用和释放等操作,并通过电商应用实例展示了如何选择合适的连接池库(如HikariCP)和配置参数,实现高效、稳定的数据库连接管理。
52 2
|
23天前
|
Java 持续交付 项目管理
使用Maven进行项目管理:提高Java Web开发的效率
Maven 是一款强大的项目管理和构建自动化工具,广泛应用于Java社区。它通过依赖管理、构建生命周期管理、插件机制和多模块项目支持等功能,简化了项目的构建过程,提高了开发效率。本文将介绍Maven的核心功能及其在Java Web开发中的应用。
51 0
|
13天前
|
Java 开发者
Java多线程编程中的常见误区与最佳实践####
本文深入剖析了Java多线程编程中开发者常遇到的几个典型误区,如对`start()`与`run()`方法的混淆使用、忽视线程安全问题、错误处理未同步的共享变量等,并针对这些问题提出了具体的解决方案和最佳实践。通过实例代码对比,直观展示了正确与错误的实现方式,旨在帮助读者构建更加健壮、高效的多线程应用程序。 ####
|
4天前
|
缓存 Java 开发者
Java多线程编程的陷阱与最佳实践####
本文深入探讨了Java多线程编程中常见的陷阱,如竞态条件、死锁和内存一致性错误,并提供了实用的避免策略。通过分析典型错误案例,本文旨在帮助开发者更好地理解和掌握多线程环境下的编程技巧,从而提升并发程序的稳定性和性能。 ####
|
4天前
|
安全 Java 开发者
Java中的多线程编程:从基础到实践
本文深入探讨了Java多线程编程的核心概念和实践技巧,旨在帮助读者理解多线程的工作原理,掌握线程的创建、管理和同步机制。通过具体示例和最佳实践,本文展示了如何在Java应用中有效地利用多线程技术,提高程序性能和响应速度。
26 1
|
12天前
|
安全 Java 开发者
Java 多线程并发控制:深入理解与实战应用
《Java多线程并发控制:深入理解与实战应用》一书详细解析了Java多线程编程的核心概念、并发控制技术及其实战技巧,适合Java开发者深入学习和实践参考。

推荐镜像

更多