倚天生态迁移-Java业务jar包迁移倚天适配实践总结

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
云数据库 RDS PostgreSQL,集群系列 2核4GB
简介: 有些jar包有jni调用,其调用的so是和处理器架构强相关的,不同处理器架构需要使用不同的so,若jar包没有包含arm64/aarch64处理器架构的so,则在倚天上使用该jar包需要进一步适配增加aarch64的支持。

迁移原因

有些jar包有jni调用,其调用的so是和处理器架构强相关的,不同处理器架构需要使用不同的so,若jar包没有包含arm64/aarch64处理器架构的so,则在倚天上使用该jar包需要进一步适配增加aarch64的支持。

jar包扫描结果分类

通过Yoda可以扫描jar包检测对倚天的兼容性,具体可以分为以下几种场景:

场景1:兼容aarch64处理器架构,可直接在倚天进行灰度验证,验证完以后可以上生产环境

兼容的原因

a.jar包没有包含jni so二进制,都是class文件

b.jar包包含的jni so二进制包含aarch64/arm64版本,例如:

snappy-java-1.1.2.6.jar/org/xerial/snappy/native/Linux/aarch64/libsnappyjava.so

场景2:jar包引用了开源第三方jar包的so,高版本有兼容aarch64版本可直接升级

依赖jar包名称

推荐版本(此版本及后续版本都兼容aarch64)

lz4-java

1.4.0

jna

5.2.2

snappy-java

1.1.3

sqlite-jdbc

3.20.0

forest-sqlite-jdbc

3.32.3.3

netty-tcnative

2.0.31

netty-transport-native-epoll

4.1.50

zstd-jni

1.0.17.0

升级方法一:修改pom文件,修改版本号重新构建

通过mvn dependency:tree进行检测第三方jar包是直接引用还是间接引用

1.间接引用:

image.png

通过exclude标签去除第三方依赖包含的snappy-java,然后在本项目的pom中添加高版本的snappy版本依赖。

image.png

2.直接引用::maven构建项目,则修改pom文件,升级对应依赖jar包的版本,重新构建jar包

<dependency>

 <groupId>org.lz4</groupId>

 <artifactId>lz4-java</artifactId>

 <version>1.4.0</version>

</dependency>5

通过mvn命令重新构建

升级方法二:通过压缩工具解压jar包,然后重新打包(该方法仅使用poc场景验证,生产环境推荐使用方法一

有些jar包可以直接使用解压缩工具打开;有些jar包用解压缩工具打开后是cpgz文件,此时建议使用unzip命令进行解压。

注意:有些jar包直接替换so会出现jar jni调用失败,主要原因是so源码编译时第三方jar包做了接口名称替换,所以具体jar包需要具体分析。

unzip lz4-java-1.4.0.jar

获取lz4-java的jni包含的so

image.png

通过find ./ -name "*.so"获取so路径

find ./ -name "*.so"

image.png

利用原有的MANIFEST文件重新打包

jar cvfm lz4-java-1.4.1.jar META-INF/MANIFEST.MF -C net/ .

image.png

场景3:jar包引用了开源第三方jar包的so,开源无兼容aarch64版本,则重新编译第三方jar包,导入本地maven仓库

本文以jffi为例编译

步骤一:下载jiffi源码

git clone https://github.com/jnr/jffi.git

步骤二:根据readme编译软件

image.png

mvn package install

包含so的jar包已编译完成并安装到

/root/.m2/repository/com/github/jnr/jffi/1.3.11-SNAPSHOT/jffi-1.3.11-SNAPSHOT-native.jar

image.png

步骤四:查看是否编译生成so

image.png

步骤五:导入编译完成的jffi-native的jar包

若本机重编UDF文件,则不需要导入上述编译完成的jffi-native的jar包,若其他机器编译则需要在对应的编译机器上创建/root/.m2/repository/com/github/jnr/jffi/1.3.11-SNAPSHOT/目录

mkdir -p /root/.m2/repository/com/github/jnr/jffi/1.3.11-SNAPSHOT/

将jffi-1.3.11-SNAPSHOT-native.jar、jffi-1.3.11-SNAPSHOT.jar、jffi-1.3.11-SNAPSHOT-complete.jar和pom文件拷贝到上述目录

image.png

步骤六:Maven构建的pom文件

<groupId>com.github.jnr</groupId>

<artifactId>jffi</artifactId>

<version>1.3.11-SNAPSHOT</version>

<name>jffi</name>

重新编译构建

相关文章
|
27天前
|
消息中间件 算法 安全
JUC并发—1.Java集合包底层源码剖析
本文主要对JDK中的集合包源码进行了剖析。
|
2月前
|
人工智能 自然语言处理 前端开发
从理论到实践:使用JAVA实现RAG、Agent、微调等六种常见大模型定制策略
大语言模型(LLM)在过去几年中彻底改变了自然语言处理领域,展现了在理解和生成类人文本方面的卓越能力。然而,通用LLM的开箱即用性能并不总能满足特定的业务需求或领域要求。为了将LLM更好地应用于实际场景,开发出了多种LLM定制策略。本文将深入探讨RAG(Retrieval Augmented Generation)、Agent、微调(Fine-Tuning)等六种常见的大模型定制策略,并使用JAVA进行demo处理,以期为AI资深架构师提供实践指导。
328 73
|
24天前
|
前端开发 JavaScript Java
【Java进阶】JavaScript电灯开关实例:从理论到实践
这个例子展示了JavaScript的基本功能,包括操作HTML元素,监听事件,以及改变元素的样式。通过学习和理解这个例子,你可以了解到JavaScript在网页中的应用,以及如何使用JavaScript来创建交互式的网页。
40 13
|
6月前
|
存储 缓存 安全
Java内存模型深度解析:从理论到实践####
【10月更文挑战第21天】 本文深入探讨了Java内存模型(JMM)的核心概念与底层机制,通过剖析其设计原理、内存可见性问题及其解决方案,结合具体代码示例,帮助读者构建对JMM的全面理解。不同于传统的摘要概述,我们将直接以故事化手法引入,让读者在轻松的情境中领略JMM的精髓。 ####
99 6
|
6月前
|
设计模式 Java 开发者
Java中的异常处理:理解与实践
【10月更文挑战第42天】在Java的世界中,异常处理是每个开发者必须面对的挑战。它就像是一场不可预知的风暴,可能会在任何时候突然降临,打乱我们的计划。但是,如果我们能够掌握正确的处理方法,这场风暴也可以变成推动我们前进的力量。本文将带你深入理解Java中的异常处理机制,通过代码示例,我们将一起学习如何捕获、处理和预防异常,让你的程序在面对任何挑战时都能保持稳健和优雅。
|
2月前
|
前端开发 JavaScript Java
[Java计算机毕设]基于ssm的OA办公管理系统的设计与实现,附源码+数据库+论文+开题,包安装调试
OA办公管理系统是一款基于Java和SSM框架开发的B/S架构应用,适用于Windows系统。项目包含管理员、项目管理人员和普通用户三种角色,分别负责系统管理、请假审批、图书借阅等日常办公事务。系统使用Vue、HTML、JavaScript、CSS和LayUI构建前端,后端采用SSM框架,数据库为MySQL,共24张表。提供完整演示视频和详细文档截图,支持远程安装调试,确保顺利运行。
127 17
|
6月前
|
Arthas 监控 Java
拥抱 OpenTelemetry:阿里云 Java Agent 演进实践
本文介绍了阿里云 Java Agent 4.x 版本在基于 OTel Java Agent 二次开发过程中的实践与思考,并重点从功能、性能、稳定性、兼容性四个方面介绍了所做的工作。同时也介绍了阿里云可观测团队积极参与开源建设取得的丰厚成果。
588 31
拥抱 OpenTelemetry:阿里云 Java Agent 演进实践
|
3月前
|
前端开发 JavaScript Java
Java打包jar运行时分离lib和jar
在`pom.xml`的`build`节点中,设置`packaging`为`jar`,并配置插件分离依赖库到`lib`目录和资源文件到`resources`目录。这样可以在运行时通过`-Dloader.path=lib,resources`加载外部依赖和资源文件,便于独立升级依赖库和修改资源文件,而无需重新打包程序。具体插件包括`maven-dependency-plugin`、`maven-resources-plugin`和`spring-boot-maven-plugin`等。
134 1
|
2月前
|
Arthas 监控 Java
拥抱 OpenTelemetry:阿里云 Java Agent 演进实践
拥抱 OpenTelemetry:阿里云 Java Agent 演进实践
102 0
|
5月前
|
Java Maven
java项目中jar启动执行日志报错:no main manifest attribute, in /www/wwwroot/snow-server/z-server.jar-jar打包的大小明显小于正常大小如何解决
在Java项目中,启动jar包时遇到“no main manifest attribute”错误,且打包大小明显偏小。常见原因包括:1) Maven配置中跳过主程序打包;2) 缺少Manifest文件或Main-Class属性。解决方案如下:
1630 8
java项目中jar启动执行日志报错:no main manifest attribute, in /www/wwwroot/snow-server/z-server.jar-jar打包的大小明显小于正常大小如何解决