AI 助理
备案控制台
开发者社区 开发与运维 文章 正文

【JVM故障问题排查心得】「Java技术体系方向」Java虚拟机内存优化之虚拟机参数调优原理介绍（一）

2024-03-29 153
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： 【JVM故障问题排查心得】「Java技术体系方向」Java虚拟机内存优化之虚拟机参数调优原理介绍

内容简介

本文主要针对于综合层面上进行分析JVM优化方案总结和列举调优参数计划。主要包含：

  • 调优之逃逸分析（栈上分配）
  • 调优之线程局部缓存（TLAB）
  • 调优之G1回收器

栈上分配与逃逸分析

-XX:+DoEscapeAnalysis

逃逸分析(Escape Analysis)

逃逸分析的基本行为就是分析对象动态作用域：当一个对象在方法中被定义后，它可能被外部方法所引用，称为方法逃逸。

方法逃逸的几种方式如下：

java

复制代码

public class EscapeTest {
  public static Object obj;
    // 给全局变量赋值，发生逃逸
    public void globalVariableEscape() {
        obj = new Object();
    }
    // 方法返回值，发生逃逸
    public Object methodEscape() {
        return new Object();
    }
    // 实例引用发生逃逸
    public void instanceEscape() {
        test(this);
    }
}

栈上分配

栈上分配是Java虚拟机提供的一种优化技术

基本思想

"对于那些线程私有的对象（指的是不可能被其他线程访问的对象），可以将它们直接分配在栈上，而不是分配在堆上"。

分配在栈上的好处：可以在函数调用结束后自行销毁，而不需要垃圾回收器的介入，减轻GC压力，从而提升系统的性能。

使用场景

线程私有对象
  • 受虚拟机栈空间的约束，适用小对象，大对象无法触发虚拟机栈上分配。
  • 线程私有变量，大对象虚拟机会分配到TLAB中，TLAB（Thread Local Allocation Buffer）
  • 在栈上分配该对象的内存,当栈帧从Java虚拟机栈中弹出，就自动销毁这个对象。减小垃圾回收器压力。

虚拟机内存逻辑图

JVM内存分配源码：

new关键字直接进行分配内存机制，源码如下：

java

复制代码

CASE(_new): {
        u2 index = Bytes::get_Java_u2(pc+1);
        ConstantPool* constants = istate->method()->constants();
        // 如果目标Java类已经解析
        if (!constants->tag_at(index).is_unresolved_klass()) {
          // Make sure klass is initialized and doesn't have a finalizer
          Klass* entry = constants->slot_at(index).get_klass();
          assert(entry->is_klass(), "Should be resolved klass");
          Klass* k_entry = (Klass*) entry;
          assert(k_entry->oop_is_instance(), "Should be InstanceKlass");
          InstanceKlass* ik = (InstanceKlass*) k_entry;
          // 如果符合快速分配场景
          if ( ik->is_initialized() && ik->can_be_fastpath_allocated() ) {
            size_t obj_size = ik->size_helper();
            oop result = NULL;
            // If the TLAB isn't pre-zeroed then we'll have to do it
            bool need_zero = !ZeroTLAB;
            if (UseTLAB) {
              result = (oop) THREAD->tlab().allocate(obj_size);
            }
            // 如果TLAB分配失败，就在Eden区分配
            if (result == NULL) {
              need_zero = true;
              // Try allocate in shared eden
        retry:
              // 指针碰撞分配
              HeapWord* compare_to = *Universe::heap()->top_addr();
              HeapWord* new_top = compare_to + obj_size;
              if (new_top <= *Universe::heap()->end_addr()) {
                if (Atomic::cmpxchg_ptr(new_top, Universe::heap()->top_addr(), compare_to) != compare_to) {
                  goto retry;
                }
                result = (oop) compare_to;
              }
            }
            if (result != NULL) {
              // Initialize object (if nonzero size and need) and then the header
              // TLAB区清零
              if (need_zero ) {
                HeapWord* to_zero = (HeapWord*) result + sizeof(oopDesc) / oopSize;
                obj_size -= sizeof(oopDesc) / oopSize;
                if (obj_size > 0 ) {
                  memset(to_zero, 0, obj_size * HeapWordSize);
                }
              }
              if (UseBiasedLocking) {
                result->set_mark(ik->prototype_header());
              } else {
                result->set_mark(markOopDesc::prototype());
              }
              result->set_klass_gap(0);
              result->set_klass(k_entry);
              // 将对象地址压入操作数栈栈顶
              SET_STACK_OBJECT(result, 0);
              // 更新程序计数器PC，取下一条字节码指令，继续处理
              UPDATE_PC_AND_TOS_AND_CONTINUE(3, 1);
            }
          }
        }
        // Slow case allocation
        // 慢分配
        CALL_VM(InterpreterRuntime::_new(THREAD, METHOD->constants(), index),
                handle_exception);
        SET_STACK_OBJECT(THREAD->vm_result(), 0);
        THREAD->set_vm_result(NULL);
        UPDATE_PC_AND_TOS_AND_CONTINUE(3, 1);
      }

代码总体逻辑

JVM再分配内存时，总是优先使用快分配策略，当快分配失败时，才会启用慢分配策略。

  1. 如果Java类没有被解析过，直接进入慢分配逻辑。
  2. 快速分配策略，如果没有开启栈上分配或者不符合条件则会进行TLAB分配。
  3. 快速分配策略，如果TLAB分配失败，则尝试Eden区分配。
  4. 如果Eden区分配失败，则进入慢分配策略。
  5. 如果对象满足直接进入老年代的条件，那就直接进入老年代分配。
  6. 快速分配，对于热点代码，如果开启逃逸分析，JVM自会执行栈上分配或者标量替换等优化方案。

在某些场景使用栈上分配

设置JVM运行参数：

-Xmx10m -Xms10m -XX:+DoEscapeAnalysis -XX:-UseTLAB -XX:+PrintGC

开启逃逸模式，关闭TLAB

java

复制代码

/**
 * @description 开启逃逸模式，关闭线程本地缓存模式（TLAB）（jdk1.8默认开启）
 * -Xmx10m -Xms10m    -XX:+DoEscapeAnalysis  -XX:-UseTLAB  -XX:+PrintGC  
 */
public class AllocationOnStack {
    public static void main(String[] args) throws InterruptedException {
        long start = System.currentTimeMillis();
        for (int index = 0; index < 100000000; index++) {
            allocate();
        }
        long end = System.currentTimeMillis();
        System.out.println((end - start)+" ms");
        Thread.sleep(1000*1000);
        // 看后台堆情况，来佐证关闭逃逸优化后，是走的堆分配。
    }
    public static void allocate() {
        byte[] bytes = new byte[2];
        bytes[0] = 1;
        bytes[1] = 1;
    }
}

运行结果

csharp

复制代码

[GC (Allocation Failure)  2048K->520K(9728K), 0.0008938 secs]
[GC (Allocation Failure)  2568K->520K(9728K), 0.0006386 secs]
6 ms

jstat -gc pid

查看内存使用情况：

结论

看出栈上分配机制的速度非常快，只需要6ms就完成了实现GC

调整JVM运行参数

关闭逃逸模式，开启TLAB

-Xmx10m -Xms10m -XX:-DoEscapeAnalysis -XX:+UseTLAB -XX:+PrintGC

查看内存使用情况：

运行结果

csharp

复制代码

[GC (Allocation Failure)  2048K->504K(9728K), 0.0013831 secs]
[GC (Allocation Failure)  2552K->512K(9728K), 0.0010576 secs]
[GC (Allocation Failure)  2560K->400K(9728K), 0.0022408 secs]
[GC (Allocation Failure)  2448K->448K(9728K), 0.0006095 secs]
[GC (Allocation Failure)  2496K->416K(9728K), 0.0010540 secs]
[GC (Allocation Failure)  2464K->464K(8704K), 0.0007620 secs]
[GC (Allocation Failure)  1488K->381K(9216K), 0.0007714 secs]
[GC (Allocation Failure)  1405K->381K(9216K), 0.0004409 secs]
[GC (Allocation Failure)  1405K->381K(9216K), 0.0004725 secs]
.......
[GC (Allocation Failure)  2429K->381K(9728K), 0.0008293 secs]
[GC (Allocation Failure)  2429K->381K(9728K), 0.0009006 secs]
[GC (Allocation Failure)  2429K->381K(9728K), 0.0005553 secs]
[GC (Allocation Failure)  2429K->381K(9728K), 0.0005077 secs]
894 ms

结论

可以看出来，关闭了栈上分配后，不但YGC次数增加了，并且总体事件也变长了，总体事件894ms

调整JVM运行参数

-Xmx10m -Xms10m -XX:-DoEscapeAnalysis -XX:-UseTLAB -XX:+PrintGC

关闭逃逸，关闭TLAB

运行结果

csharp

复制代码

[GC (Allocation Failure)  2048K->472K(9728K), 0.0007073 secs]
[GC (Allocation Failure)  2520K->528K(9728K), 0.0009216 secs]
[GC (Allocation Failure)  2576K->504K(9728K), 0.0005897 secs]
[GC (Allocation Failure)  2551K->424K(9728K), 0.0005780 secs]
[GC (Allocation Failure)  2472K->440K(9728K), 0.0006923 secs]
[GC (Allocation Failure)  2488K->456K(8704K), 0.0006277 secs]
[GC (Allocation Failure)  1480K->389K(9216K), 0.0005560 secs]
.......
[GC (Allocation Failure)  2437K->389K(9728K), 0.0003227 secs]
[GC (Allocation Failure)  2437K->389K(9728K), 0.0004264 secs]
[GC (Allocation Failure)  2437K->389K(9728K), 0.0004396 secs]
[GC (Allocation Failure)  2437K->389K(9728K), 0.0002773 secs]
[GC (Allocation Failure)  2437K->389K(9728K), 0.0002766 secs]
1718 ms

查看内存使用情况：

运行结果对比

  1. 运行耗时（开启逃逸 VS关闭逃逸(开启TLAB)VS关闭逃逸(关闭TLAB))： 6ms VS 894ms VS 1718ms
  2. 虚拟机内存&回收（开启逃逸VS关闭逃逸）：

调整分配空间大小

java

复制代码

/**
 * @since 2019/8/13  上午6:55
 * -Xmx10m -Xms10m    -XX:-DoEscapeAnalysis -XX:+UseTLAB  -XX:+PrintCommandLineFlags -XX:+PrintGC
 */
public class AllocationOnStack {
    private static final int _1B =  65;
    public static void main(String[] args) throws InterruptedException {
        long start = System.currentTimeMillis();
        for (int index = 0; index < 100000000; index++) {
            allocateBigSpace();
        }
        long end = System.currentTimeMillis();
        System.out.println(end - start);
        Thread.sleep(1000*1000);
        // 看后台堆情况，来佐证关闭逃逸优化后，是走的堆分配。
    }
    public static void allocate() {
        byte[] bytes = new byte[2];
        bytes[0] = 1;
        bytes[1] = 1;
    }
    public static void allocateBigSpace() {
        byte[] allocation1;
        allocation1 = new byte[1 * _1B];
    }
}


【JVM故障问题排查心得】「Java技术体系方向」Java虚拟机内存优化之虚拟机参数调优原理介绍（二）https://developer.aliyun.com/article/1471127

文章标签：
云虚拟主机
Java
C++
C#
缓存
关键词：
JVM内存
云虚拟主机调优
Java调优
JVM调优
Java原理
洛神灬殇
目录
相关文章
大树营养快线
|
11天前
|
算法 JavaScript 前端开发
新生代和老生代内存划分的原理是什么？
【10月更文挑战第29天】新生代和老生代内存划分是JavaScript引擎为了更高效地管理内存、提高垃圾回收效率而采用的一种重要策略，它充分考虑了不同类型对象的生命周期和内存使用特点，通过不同的垃圾回收算法和晋升机制，实现了对内存的有效管理和优化。
大树营养快线
28 2
拉丁解牛说技术
|
6天前
|
Arthas 监控 Java
JVM进阶调优系列(9)大厂面试官:内存溢出几种？能否现场演示一下？| 面试就那点事
本文介绍了JVM内存溢出（OOM）的四种类型：堆内存、栈内存、元数据区和直接内存溢出。每种类型通过示例代码演示了如何触发OOM，并分析了其原因。文章还提供了如何使用JVM命令工具（如jmap、jhat、GCeasy、Arthas等）分析和定位内存溢出问题的方法。最后，强调了合理设置JVM参数和及时回收内存的重要性。
拉丁解牛说技术
40 7
游客sjjs6jgz4gp7m1
|
22天前
|
存储 算法 Java
Java虚拟机（JVM）的内存管理与性能优化
本文深入探讨了Java虚拟机（JVM）的内存管理机制，包括堆、栈、方法区等关键区域的功能与作用。通过分析垃圾回收算法和调优策略，旨在帮助开发者理解如何有效提升Java应用的性能。文章采用通俗易懂的语言，结合具体实例，使读者能够轻松掌握复杂的内存管理概念，并应用于实际开发中。
游客sjjs6jgz4gp7m1
37 2
喜欢猪猪
|
1月前
|
存储 监控 算法
JVM调优深度剖析：内存模型、垃圾收集、工具与实战
【10月更文挑战第9天】在Java开发领域，Java虚拟机（JVM）的性能调优是构建高性能、高并发系统不可或缺的一部分。作为一名资深架构师，深入理解JVM的内存模型、垃圾收集机制、调优工具及其实现原理，对于提升系统的整体性能和稳定性至关重要。本文将深入探讨这些内容，并提供针对单机几十万并发系统的JVM调优策略和Java代码示例。
喜欢猪猪
48 2
九月天空
|
1月前
|
存储 算法 Java
深入理解Java虚拟机（JVM）及其优化策略
【10月更文挑战第10天】深入理解Java虚拟机（JVM）及其优化策略
九月天空
41 1
Dylaniou
|
1月前
|
安全 Java API
🌟探索Java宇宙：深入理解Java技术体系与JVM的奥秘
本文深入探讨了Java技术体系的全貌，从Java语言的概述到其优点，再到Java技术体系的构成，以及JVM的角色。旨在帮助Java开发者全面了解Java生态，提升对Java技术的认知，从而在编程实践中更好地发挥Java的优势。关键词：Java, JVM, 技术体系, 编程语言, 跨平台, 内存管理。
Dylaniou
34 2
技术自由圈/原疯狂创客圈
|
30天前
|
存储 Kubernetes 架构师
阿里面试：JVM 锁内存 是怎么变化的？ JVM 锁的膨胀过程 ?
尼恩，一位经验丰富的40岁老架构师，通过其读者交流群分享了一系列关于JVM锁的深度解析，包括偏向锁、轻量级锁、自旋锁和重量级锁的概念、内存结构变化及锁膨胀流程。这些内容不仅帮助群内的小伙伴们顺利通过了多家一线互联网企业的面试，还整理成了《尼恩Java面试宝典》等技术资料，助力更多开发者提升技术水平，实现职业逆袭。尼恩强调，掌握这些核心知识点不仅能提高面试成功率，还能在实际工作中更好地应对高并发场景下的性能优化问题。
技术自由圈/原疯狂创客圈
28 0
潇洒洒
|
1月前
|
存储 安全 Java
jvm 锁的 膨胀过程？锁内存怎么变化的
【10月更文挑战第3天】在Java虚拟机（JVM）中，`synchronized`关键字用于实现同步，确保多个线程在访问共享资源时的一致性和线程安全。JVM对`synchronized`进行了优化，以适应不同的竞争场景，这种优化主要体现在锁的膨胀过程，即从偏向锁到轻量级锁，再到重量级锁的转变。下面我们将详细介绍这一过程以及锁在内存中的变化。
潇洒洒
37 4
Skyund
|
4天前
|
Java Linux Windows
JVM内存
首先JVM内存限制于实际的最大物理内存，假设物理内存无限大的话，JVM内存的最大值跟操作系统有很大的关系。简单的说就32位处理器虽然可控内存空间有4GB,但是具体的操作系统会给一个限制，这个限制一般是2GB-3GB（一般来说Windows系统下为1.5G-2G，Linux系统下为2G-3G），而64bit以上的处理器就不会有限制。
Skyund
7 1
java冯坚持
|
1月前
|
缓存 算法 Java
JVM知识体系学习六：JVM垃圾是什么、GC常用垃圾清除算法、堆内存逻辑分区、栈上分配、对象何时进入老年代、有关老年代新生代的两个问题、常见的垃圾回收器、CMS
这篇文章详细介绍了Java虚拟机（JVM）中的垃圾回收机制，包括垃圾的定义、垃圾回收算法、堆内存的逻辑分区、对象的内存分配和回收过程，以及不同垃圾回收器的工作原理和参数设置。
java冯坚持
56 4
JVM知识体系学习六：JVM垃圾是什么、GC常用垃圾清除算法、堆内存逻辑分区、栈上分配、对象何时进入老年代、有关老年代新生代的两个问题、常见的垃圾回收器、CMS

热门文章

最新文章

  • 1
    java Redis工具类
  • 2
    Java杂记9—NIO
  • 3
    Java——基于java自身包实现消息系统间的通信（TCP/IP+BIO）
  • 4
    java8 List根据对象中属性去重-多属性去重-去除重复字符串
  • 5
    Java接口签名(Signature)实现方案
  • 6
    Java的几种创建实例方法的性能对比
  • 7
    Java多线程初学者指南（9）：为什么要进行数据同步
  • 8
    Java 动态写轮眼 SharinganJPanel (整理)
  • 9
    Java项目导出源代码jar包在Eclipse中查看中文注释乱码的问题
  • 10
    java 调用外部程序（Runtime.getRuntime().exec）
  • 1
    一次虚拟机centos7系统崩溃恢复记录
    393
  • 2
    服务器数据恢复—同友存储中raid5阵列上层虚拟机数据恢复案例
    106
  • 3
    本地虚拟机centos7通过docker安装主从redis3.2
    117
  • 4
    本地虚拟机centos7通过docker安装主从mysql5.7.21
    166
  • 5
    minio文档系统在centos7虚拟机上的搭建
    99
  • 6
    虚拟机添加新硬盘之linux系统篇
    216
  • 7
    VirtualBox虚拟机安装Mac OS X Lion系统详解
    309
  • 8
    深入浅出JVM（三）之HotSpot虚拟机类加载机制
    70
  • 9
    深入浅出JVM（一）之Hotspot虚拟机中的对象
    68
  • 10
    手把手教你如何在虚拟机上安装Windows 10
    196

    • 相关课程

    更多
  • Java面试疑难点解析 - 面试技巧及语言基础
  • Java面试疑难点解析 - Java Web开发
  • Java面试疑难点解析 - 系统架构及项目设计
  • Java编程入门
  • Java面向对象编程
  • Java高级编程

    • 相关电子书

    更多
  • 云服务器ECS内存增强型实例re6全新发布
  • JVM的GC
  • 基于JVM的脚本语言开发、运用实践

    • 相关实验场景

    更多
  • 基于ECS搭建Java Web开发环境
  • 使用Aliyun Java Intializr进行项目开发
  • 搭建Java Web开发环境
  • 部署基于Dragonwell的Java运行环境
  • 阿里云平台上进行Java程序的编译与运行
  • RocketMQ中使用Java客户端发送消息和消费的应用
    • 下一篇
    阿里云OSS设置跨域访问