AI 助理
备案控制台
开发者社区 开发与运维 文章 正文

【JVM故障问题排查心得】「Java技术体系方向」Java虚拟机内存优化之虚拟机参数调优原理介绍（一）

2024-03-29 151
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 【JVM故障问题排查心得】「Java技术体系方向」Java虚拟机内存优化之虚拟机参数调优原理介绍

内容简介

本文主要针对于综合层面上进行分析JVM优化方案总结和列举调优参数计划。主要包含：

  • 调优之逃逸分析（栈上分配）
  • 调优之线程局部缓存（TLAB）
  • 调优之G1回收器

栈上分配与逃逸分析

-XX:+DoEscapeAnalysis

逃逸分析(Escape Analysis)

逃逸分析的基本行为就是分析对象动态作用域：当一个对象在方法中被定义后，它可能被外部方法所引用，称为方法逃逸。

方法逃逸的几种方式如下：

java

复制代码

public class EscapeTest {
  public static Object obj;
    // 给全局变量赋值，发生逃逸
    public void globalVariableEscape() {
        obj = new Object();
    }
    // 方法返回值，发生逃逸
    public Object methodEscape() {
        return new Object();
    }
    // 实例引用发生逃逸
    public void instanceEscape() {
        test(this);
    }
}

栈上分配

栈上分配是Java虚拟机提供的一种优化技术

基本思想

"对于那些线程私有的对象（指的是不可能被其他线程访问的对象），可以将它们直接分配在栈上，而不是分配在堆上"。

分配在栈上的好处：可以在函数调用结束后自行销毁，而不需要垃圾回收器的介入，减轻GC压力，从而提升系统的性能。

使用场景

线程私有对象
  • 受虚拟机栈空间的约束，适用小对象，大对象无法触发虚拟机栈上分配。
  • 线程私有变量，大对象虚拟机会分配到TLAB中，TLAB（Thread Local Allocation Buffer）
  • 在栈上分配该对象的内存,当栈帧从Java虚拟机栈中弹出，就自动销毁这个对象。减小垃圾回收器压力。

虚拟机内存逻辑图

JVM内存分配源码：

new关键字直接进行分配内存机制，源码如下：

java

复制代码

CASE(_new): {
        u2 index = Bytes::get_Java_u2(pc+1);
        ConstantPool* constants = istate->method()->constants();
        // 如果目标Java类已经解析
        if (!constants->tag_at(index).is_unresolved_klass()) {
          // Make sure klass is initialized and doesn't have a finalizer
          Klass* entry = constants->slot_at(index).get_klass();
          assert(entry->is_klass(), "Should be resolved klass");
          Klass* k_entry = (Klass*) entry;
          assert(k_entry->oop_is_instance(), "Should be InstanceKlass");
          InstanceKlass* ik = (InstanceKlass*) k_entry;
          // 如果符合快速分配场景
          if ( ik->is_initialized() && ik->can_be_fastpath_allocated() ) {
            size_t obj_size = ik->size_helper();
            oop result = NULL;
            // If the TLAB isn't pre-zeroed then we'll have to do it
            bool need_zero = !ZeroTLAB;
            if (UseTLAB) {
              result = (oop) THREAD->tlab().allocate(obj_size);
            }
            // 如果TLAB分配失败，就在Eden区分配
            if (result == NULL) {
              need_zero = true;
              // Try allocate in shared eden
        retry:
              // 指针碰撞分配
              HeapWord* compare_to = *Universe::heap()->top_addr();
              HeapWord* new_top = compare_to + obj_size;
              if (new_top <= *Universe::heap()->end_addr()) {
                if (Atomic::cmpxchg_ptr(new_top, Universe::heap()->top_addr(), compare_to) != compare_to) {
                  goto retry;
                }
                result = (oop) compare_to;
              }
            }
            if (result != NULL) {
              // Initialize object (if nonzero size and need) and then the header
              // TLAB区清零
              if (need_zero ) {
                HeapWord* to_zero = (HeapWord*) result + sizeof(oopDesc) / oopSize;
                obj_size -= sizeof(oopDesc) / oopSize;
                if (obj_size > 0 ) {
                  memset(to_zero, 0, obj_size * HeapWordSize);
                }
              }
              if (UseBiasedLocking) {
                result->set_mark(ik->prototype_header());
              } else {
                result->set_mark(markOopDesc::prototype());
              }
              result->set_klass_gap(0);
              result->set_klass(k_entry);
              // 将对象地址压入操作数栈栈顶
              SET_STACK_OBJECT(result, 0);
              // 更新程序计数器PC，取下一条字节码指令，继续处理
              UPDATE_PC_AND_TOS_AND_CONTINUE(3, 1);
            }
          }
        }
        // Slow case allocation
        // 慢分配
        CALL_VM(InterpreterRuntime::_new(THREAD, METHOD->constants(), index),
                handle_exception);
        SET_STACK_OBJECT(THREAD->vm_result(), 0);
        THREAD->set_vm_result(NULL);
        UPDATE_PC_AND_TOS_AND_CONTINUE(3, 1);
      }

代码总体逻辑

JVM再分配内存时，总是优先使用快分配策略，当快分配失败时，才会启用慢分配策略。

  1. 如果Java类没有被解析过，直接进入慢分配逻辑。
  2. 快速分配策略，如果没有开启栈上分配或者不符合条件则会进行TLAB分配。
  3. 快速分配策略，如果TLAB分配失败，则尝试Eden区分配。
  4. 如果Eden区分配失败，则进入慢分配策略。
  5. 如果对象满足直接进入老年代的条件，那就直接进入老年代分配。
  6. 快速分配，对于热点代码，如果开启逃逸分析，JVM自会执行栈上分配或者标量替换等优化方案。

在某些场景使用栈上分配

设置JVM运行参数：

-Xmx10m -Xms10m -XX:+DoEscapeAnalysis -XX:-UseTLAB -XX:+PrintGC

开启逃逸模式，关闭TLAB

java

复制代码

/**
 * @description 开启逃逸模式，关闭线程本地缓存模式（TLAB）（jdk1.8默认开启）
 * -Xmx10m -Xms10m    -XX:+DoEscapeAnalysis  -XX:-UseTLAB  -XX:+PrintGC  
 */
public class AllocationOnStack {
    public static void main(String[] args) throws InterruptedException {
        long start = System.currentTimeMillis();
        for (int index = 0; index < 100000000; index++) {
            allocate();
        }
        long end = System.currentTimeMillis();
        System.out.println((end - start)+" ms");
        Thread.sleep(1000*1000);
        // 看后台堆情况，来佐证关闭逃逸优化后，是走的堆分配。
    }
    public static void allocate() {
        byte[] bytes = new byte[2];
        bytes[0] = 1;
        bytes[1] = 1;
    }
}

运行结果

csharp

复制代码

[GC (Allocation Failure)  2048K->520K(9728K), 0.0008938 secs]
[GC (Allocation Failure)  2568K->520K(9728K), 0.0006386 secs]
6 ms

jstat -gc pid

查看内存使用情况：

结论

看出栈上分配机制的速度非常快，只需要6ms就完成了实现GC

调整JVM运行参数

关闭逃逸模式，开启TLAB

-Xmx10m -Xms10m -XX:-DoEscapeAnalysis -XX:+UseTLAB -XX:+PrintGC

查看内存使用情况：

运行结果

csharp

复制代码

[GC (Allocation Failure)  2048K->504K(9728K), 0.0013831 secs]
[GC (Allocation Failure)  2552K->512K(9728K), 0.0010576 secs]
[GC (Allocation Failure)  2560K->400K(9728K), 0.0022408 secs]
[GC (Allocation Failure)  2448K->448K(9728K), 0.0006095 secs]
[GC (Allocation Failure)  2496K->416K(9728K), 0.0010540 secs]
[GC (Allocation Failure)  2464K->464K(8704K), 0.0007620 secs]
[GC (Allocation Failure)  1488K->381K(9216K), 0.0007714 secs]
[GC (Allocation Failure)  1405K->381K(9216K), 0.0004409 secs]
[GC (Allocation Failure)  1405K->381K(9216K), 0.0004725 secs]
.......
[GC (Allocation Failure)  2429K->381K(9728K), 0.0008293 secs]
[GC (Allocation Failure)  2429K->381K(9728K), 0.0009006 secs]
[GC (Allocation Failure)  2429K->381K(9728K), 0.0005553 secs]
[GC (Allocation Failure)  2429K->381K(9728K), 0.0005077 secs]
894 ms

结论

可以看出来，关闭了栈上分配后，不但YGC次数增加了，并且总体事件也变长了，总体事件894ms

调整JVM运行参数

-Xmx10m -Xms10m -XX:-DoEscapeAnalysis -XX:-UseTLAB -XX:+PrintGC

关闭逃逸，关闭TLAB

运行结果

csharp

复制代码

[GC (Allocation Failure)  2048K->472K(9728K), 0.0007073 secs]
[GC (Allocation Failure)  2520K->528K(9728K), 0.0009216 secs]
[GC (Allocation Failure)  2576K->504K(9728K), 0.0005897 secs]
[GC (Allocation Failure)  2551K->424K(9728K), 0.0005780 secs]
[GC (Allocation Failure)  2472K->440K(9728K), 0.0006923 secs]
[GC (Allocation Failure)  2488K->456K(8704K), 0.0006277 secs]
[GC (Allocation Failure)  1480K->389K(9216K), 0.0005560 secs]
.......
[GC (Allocation Failure)  2437K->389K(9728K), 0.0003227 secs]
[GC (Allocation Failure)  2437K->389K(9728K), 0.0004264 secs]
[GC (Allocation Failure)  2437K->389K(9728K), 0.0004396 secs]
[GC (Allocation Failure)  2437K->389K(9728K), 0.0002773 secs]
[GC (Allocation Failure)  2437K->389K(9728K), 0.0002766 secs]
1718 ms

查看内存使用情况：

运行结果对比

  1. 运行耗时（开启逃逸 VS关闭逃逸(开启TLAB)VS关闭逃逸(关闭TLAB))： 6ms VS 894ms VS 1718ms
  2. 虚拟机内存&回收（开启逃逸VS关闭逃逸）：

调整分配空间大小

java

复制代码

/**
 * @since 2019/8/13  上午6:55
 * -Xmx10m -Xms10m    -XX:-DoEscapeAnalysis -XX:+UseTLAB  -XX:+PrintCommandLineFlags -XX:+PrintGC
 */
public class AllocationOnStack {
    private static final int _1B =  65;
    public static void main(String[] args) throws InterruptedException {
        long start = System.currentTimeMillis();
        for (int index = 0; index < 100000000; index++) {
            allocateBigSpace();
        }
        long end = System.currentTimeMillis();
        System.out.println(end - start);
        Thread.sleep(1000*1000);
        // 看后台堆情况，来佐证关闭逃逸优化后，是走的堆分配。
    }
    public static void allocate() {
        byte[] bytes = new byte[2];
        bytes[0] = 1;
        bytes[1] = 1;
    }
    public static void allocateBigSpace() {
        byte[] allocation1;
        allocation1 = new byte[1 * _1B];
    }
}


【JVM故障问题排查心得】「Java技术体系方向」Java虚拟机内存优化之虚拟机参数调优原理介绍（二）https://developer.aliyun.com/article/1471127

文章标签：
云虚拟主机
Java
C++
C#
缓存
关键词：
JVM调优
Java调优
Java技术
Java原理
云虚拟主机技术
洛神灬殇
目录
相关文章
潇洒洒
|
20天前
|
存储 安全 Java
jvm 锁的 膨胀过程？锁内存怎么变化的
【10月更文挑战第3天】在Java虚拟机（JVM）中，`synchronized`关键字用于实现同步，确保多个线程在访问共享资源时的一致性和线程安全。JVM对`synchronized`进行了优化，以适应不同的竞争场景，这种优化主要体现在锁的膨胀过程，即从偏向锁到轻量级锁，再到重量级锁的转变。下面我们将详细介绍这一过程以及锁在内存中的变化。
潇洒洒
32 4
java冯坚持
|
20天前
|
缓存 算法 Java
JVM知识体系学习六：JVM垃圾是什么、GC常用垃圾清除算法、堆内存逻辑分区、栈上分配、对象何时进入老年代、有关老年代新生代的两个问题、常见的垃圾回收器、CMS
这篇文章详细介绍了Java虚拟机（JVM）中的垃圾回收机制，包括垃圾的定义、垃圾回收算法、堆内存的逻辑分区、对象的内存分配和回收过程，以及不同垃圾回收器的工作原理和参数设置。
java冯坚持
44 4
JVM知识体系学习六：JVM垃圾是什么、GC常用垃圾清除算法、堆内存逻辑分区、栈上分配、对象何时进入老年代、有关老年代新生代的两个问题、常见的垃圾回收器、CMS
小王老师呀
|
10天前
|
存储 算法 Java
聊聊jvm的内存结构, 以及各种结构的作用
【10月更文挑战第27天】JVM（Java虚拟机）的内存结构主要包括程序计数器、Java虚拟机栈、本地方法栈、Java堆、方法区和运行时常量池。各部分协同工作，为Java程序提供高效稳定的内存管理和运行环境，确保程序的正常执行、数据存储和资源利用。
小王老师呀
33 10
那年春天
|
9天前
|
存储 Dart Java
Dart 虚拟机运行原理
【10月更文挑战第20天】Dart 虚拟机通过一系列复杂的机制和操作，确保 Dart 代码能够准确、高效地执行。它为 Dart 语言的广泛应用提供了坚实的基础和可靠的运行环境
那年春天
17 6
游客sjjs6jgz4gp7m1
|
9天前
|
存储 算法 Java
Java虚拟机（JVM）的内存管理与性能优化
本文深入探讨了Java虚拟机（JVM）的内存管理机制，包括堆、栈、方法区等关键区域的功能与作用。通过分析垃圾回收算法和调优策略，旨在帮助开发者理解如何有效提升Java应用的性能。文章采用通俗易懂的语言，结合具体实例，使读者能够轻松掌握复杂的内存管理概念，并应用于实际开发中。
游客sjjs6jgz4gp7m1
25 2
喜欢猪猪
|
19天前
|
存储 监控 算法
JVM调优深度剖析：内存模型、垃圾收集、工具与实战
【10月更文挑战第9天】在Java开发领域，Java虚拟机（JVM）的性能调优是构建高性能、高并发系统不可或缺的一部分。作为一名资深架构师，深入理解JVM的内存模型、垃圾收集机制、调优工具及其实现原理，对于提升系统的整体性能和稳定性至关重要。本文将深入探讨这些内容，并提供针对单机几十万并发系统的JVM调优策略和Java代码示例。
喜欢猪猪
45 2
java冯坚持
|
20天前
|
存储 Java
JVM知识体系学习四：排序规范（happens-before原则）、对象创建过程、对象的内存中存储布局、对象的大小、对象头内容、对象如何定位、对象如何分配
这篇文章详细地介绍了Java对象的创建过程、内存布局、对象头的MarkWord、对象的定位方式以及对象的分配策略，并深入探讨了happens-before原则以确保多线程环境下的正确同步。
java冯坚持
41 0
JVM知识体系学习四：排序规范（happens-before原则）、对象创建过程、对象的内存中存储布局、对象的大小、对象头内容、对象如何定位、对象如何分配
游客r43put2rqnbp4
|
18天前
|
存储 Kubernetes 架构师
阿里面试：JVM 锁内存 是怎么变化的？ JVM 锁的膨胀过程 ?
尼恩，一位经验丰富的40岁老架构师，通过其读者交流群分享了一系列关于JVM锁的深度解析，包括偏向锁、轻量级锁、自旋锁和重量级锁的概念、内存结构变化及锁膨胀流程。这些内容不仅帮助群内的小伙伴们顺利通过了多家一线互联网企业的面试，还整理成了《尼恩Java面试宝典》等技术资料，助力更多开发者提升技术水平，实现职业逆袭。尼恩强调，掌握这些核心知识点不仅能提高面试成功率，还能在实际工作中更好地应对高并发场景下的性能优化问题。
游客r43put2rqnbp4
22 0
西北野狼
|
存储 Java
虚拟机内存中数据细节
虚拟机内存中数据细节 如何创建？ 如何布局？ 如何访问？   如何创建？ 语言层面：创建对象仅仅是一个new关键字而已。 虚拟机中： 　　1 检查指令的参数是否在常量池中定位到一个类的符号引用，并检查这个符号引用代表的类是否被加载，解析，初始化； 　　2 虚拟机为新生对象分配内存. 如何布局？ 分为3个区域： 　　对象头 　　实例数据 　　对其填充   对象头： 分为2部分： 　　1、用于存储对象自身的运行时数据（hashCode,GC分代年龄，锁状态标志，线程持有的锁，偏向线程的id,偏向时间戳等）。
西北野狼
916 0
小Tomkk
|
17天前
|
安全 虚拟化 数据中心
Xshell 连接 VMware虚拟机操作 截图和使用
Xshell 连接 VMware虚拟机操作 截图和使用
小Tomkk
38 4

热门文章

最新文章

  • 1
    jvm系列(十一):JVM演讲PPT分享
  • 2
    关于启动 Eclipse 弹出“Failed to load the JNI shared library jvm.dll”错误的解决方法！
  • 3
    Jvm性能调优+监控工具Arthas【阿里开源】
  • 4
    JVM的本地方法栈
  • 5
    彻底理解JVM常考题之分级引用模型
  • 6
    JVM的基本结构
  • 7
    JVM核心优化策略 | 学习笔记
  • 8
    jvm(15) -- 类加载器
  • 9
    jvm(14) -- 类加载的过程
  • 10
    JVM15_类的加载、链接、初始化、卸载、主动使用、被动使用（一）
  • 1
    深入理解JavaScript内存泄漏：原因与解决方法
    118
  • 2
    动态内存的管理（内存储存的god）
    36
  • 3
    数据在内存中的存储（探索内存的秘密）
    138
  • 4
    C语言—内存函数的实现和模拟实现（内存函数的丝绸之路）
    43
  • 5
    android内存优化面试题，挑战大厂重燃激情
    35
  • 6
    容器内存可观测性新视角：WorkingSet 与 PageCache 监控
    56248
  • 7
    Java一分钟之-Java内存模型与垃圾回收机制概览
    73
  • 8
    内存 vs 硬盘：固态硬盘代替内存可以工作吗？
    113
  • 9
    webserver--Buffer类实现内存缓冲区读写（全代码）
    74
  • 10
    内存映射mmap拓展
    52

    • 相关课程

    更多
  • Java 虚拟机原理
  • Java面试疑难点解析 - 系统架构及项目设计
  • Java高级开发
  • Java面试疑难点解析 - Java Web开发
  • Java面试疑难点解析 - 面试技巧及语言基础
  • 「大师课」搞定 Java 开发基础

    • 相关电子书

    更多
  • 基于英特尔 SSD 的虚拟机缓存解决SSD
  • JVM的GC
  • 基于JVM的脚本语言开发、运用实践

    • 相关实验场景

    更多
  • 阿里云平台上进行Java程序的编译与运行
  • 使用Java面向对象编写网络通信程序应用
  • 手动部署Java Web环境（Alibaba Cloud Linux 2）
  • 搭建Java Web开发环境（Anolis OS）
  • RocketMQ中使用Java客户端发送消息和消费的应用
  • 部署基于Dragonwell的Java运行环境
    • 下一篇
    阿里云无影云电脑免费试用，最长可试用3个月