JVM 直接内存溢出

简介: 直接内存分配直接内存Unsafe类的使用ByteBufferByteBuffer源码总结

在企业开发中可能会遇到这样一种情况,服务器报out of memory异常了,堆Dump文件却看不出问题,这个时候可考虑直接内存溢出问题,也是很容易被忽略的一个点!


直接内存


《Java虚拟机规范》并没有定义直接内存这块区域,且它也不属于语虚拟机运行时数据区


直接内存是一块由操作系统直接管理的内存,也叫堆外内存;

可以使用Unsafe或ByteBuffer分配直接内存;

可用-XX:MaxDirectMemorySize控制,默认是0,表示不限制。


why直接内存?


性能优势

堆内存vs直接内存(参考链接)

使用场景:


有很大的数据需要存储,生命周期很长

频繁的IO操作,比如并发网络通信


分配直接内存


Unsafe.allocateMemory(size);
ByteBuffer.allocateDirect(size);


Unsafe类的使用


Unsafe可用来直接访问系统内存资源并自主管理,在提升Java运行效率、增强Java语言底层操作能力方面起了很大的作用——可以认为,Unsafe类是Java中留下的后门,提供了一些低层次操作,如直接内存访问、线程调度等。


Unsafe不属于Java标准。官方并不建议使用Unsafe,并且从JDK 9开始,官方开始去除Unsafe(issue)。


因此,Unsafe类对于项目实战,意义并不大。然而目前业界有很多好用的类库大量使用了Unsafe类,例如java.util.concurrent.atomic包里的一堆类、Netty、Hadoop,Kafka等。所以了解一下还是有好处的。


不同的JDK版本中,Unsafe类也有区别:


在JDK8中归属于sun.misc包下;

在JDK 11中归属于sun.misc包或jdk.internal.misc下,其中jdk.internal.misc下的Unsafe类功能更强。


package com.wjw.jvminaction;
import sun.misc.Unsafe;
import java.lang.reflect.Field;
public class DirectMemoryTest1 {
    private static final int MB_1 = 1024 * 1024;
    public static void main(String[] args) throws IllegalAccessException {
        // 通过反射获取Unsafe类并通过其分配直接内存
        Field unsafeField = Unsafe.class.getDeclaredFields()[0];
        unsafeField.setAccessible(true);
        Unsafe unsafe = (Unsafe) unsafeField.get(null);
        // 分配1M内存,并返回这块内存的起始地址
        Long address = unsafe.allocateMemory(MB_1);
        // 向内存地址中设置对象
        unsafe.putByte(address, (byte) 1);
        // 从内存中获取对象
        byte aByte = unsafe.getByte(address);
        System.out.println(aByte);
        // 释放内存
        unsafe.freeMemory(address);
    }
}

https://www.jb51.net/article/140726.htm

https://blog.csdn.net/ahilll/article/details/81628215

https://www.jianshu.com/p/dd2be4d3b88e


13.png


package com.wjw.jvminaction;
import sun.misc.Unsafe;
import java.lang.reflect.Field;
public class DirectMemoryTest3 {
    private static final int GB_1 = 1024 * 1024 * 1024;
    public static void main(String[] args) throws IllegalAccessException {
        // 通过反射获取Unsafe类并通过其分配直接内存
        Field unsafeField = Unsafe.class.getDeclaredFields()[0];
        unsafeField.setAccessible(true);
        Unsafe unsafe = (Unsafe) unsafeField.get(null);
        int i = 0;
        while (true){
            unsafe.allocateMemory(GB_1);
            System.out.println(++ i);
        }
    }
}


14.png


这里也会报OOM的错,但是没有任何的说明信息

使用如下JVM参数启动:


15.png


发现仍然分配了多次,说明MaxDirectMemorySize无法控制Unsafe类


ByteBuffer


https://blog.csdn.net/z69183787/article/details/77102198/


package com.wjw.jvminaction;
import java.nio.ByteBuffer;
public class DirectMemoryTest2 {
    private static final int ONE_MB = 1024 * 1024;
    public static void main(String[] args) {
        ByteBuffer buffer = ByteBuffer.allocateDirect(ONE_MB);
        // 相对写,向position的位置写入一个byte,并将postion+1,为下次读写做准备
        buffer.put("abcde".getBytes());
        buffer.put("fghij".getBytes());
        // 转换为读取模式
        buffer.flip();
        // 相对读,从position位置读取一个byte,并将position+1,为下次读写作准备
        // 读取第1个字节(a)
        System.out.println((char) buffer.get());
        // 读取第2个字节(b)
        System.out.println((char) buffer.get());
        // 绝对读,读取byteBuffer底层的bytes中下标为index的byte,不改变position
        // 读取第3个字节(c)
        System.out.println((char) buffer.get(2));
    }
}


package com.wjw.jvminaction;
import sun.misc.Unsafe;
import java.lang.reflect.Field;
import java.nio.ByteBuffer;
/**
 * Created by Enzo Cotter on 2021/8/21.
 */
public class DirectMemoryTest4 {
    private static final int GB_1 = 1024 * 1024 * 1024;
    public static void main(String[] args) throws IllegalAccessException {
        int i = 0;
        while (true){
            ByteBuffer buffer = ByteBuffer.allocateDirect(GB_1);
            System.out.println(++ i);
        }
    }
}


使用如下JVM参数启动:


-XX:MaxDirectMemorySize=100m


16.png


发现上来就报错,证明MaxDirectMemorySize可以控制ByteBuffer类,并且报错有提示信息

ByteBuffer源码

进入到 java.nio.ByteBuffer.allocateDirect 方法

public static ByteBuffer allocateDirect(int capacity) {
    return new DirectByteBuffer(capacity);
}


DirectByteBuffer(int cap) {                   // package-private
    super(-1, 0, cap, cap);
    boolean pa = VM.isDirectMemoryPageAligned();
    int ps = Bits.pageSize();
    long size = Math.max(1L, (long)cap + (pa ? ps : 0));
    Bits.reserveMemory(size, cap);
    long base = 0;
    try {
        base = unsafe.allocateMemory(size);
    } catch (OutOfMemoryError x) {
        Bits.unreserveMemory(size, cap);
        throw x;
    }
    unsafe.setMemory(base, size, (byte) 0);
    if (pa && (base % ps != 0)) {
        // Round up to page boundary
        address = base + ps - (base & (ps - 1));
    } else {
        address = base;
    }
    cleaner = Cleaner.create(this, new Deallocator(base, size, cap));
    att = null;
}

异常是 Bits.reserveMemory(size, cap); 产生的

static void reserveMemory(long size, int cap) {
    if (!memoryLimitSet && VM.isBooted()) {
        maxMemory = VM.maxDirectMemory();
        memoryLimitSet = true;
    }
    // optimist!
    if (tryReserveMemory(size, cap)) {
        return;
    }
    final JavaLangRefAccess jlra = SharedSecrets.getJavaLangRefAccess();
    // retry while helping enqueue pending Reference objects
    // which includes executing pending Cleaner(s) which includes
    // Cleaner(s) that free direct buffer memory
    while (jlra.tryHandlePendingReference()) {
        if (tryReserveMemory(size, cap)) {
            return;
        }
    }
    // trigger VM's Reference processing
    System.gc();
    // a retry loop with exponential back-off delays
    // (this gives VM some time to do it's job)
    boolean interrupted = false;
    try {
        long sleepTime = 1;
        int sleeps = 0;
        while (true) {
            if (tryReserveMemory(size, cap)) {
                return;
            }
            if (sleeps >= MAX_SLEEPS) {
                break;
            }
            if (!jlra.tryHandlePendingReference()) {
                try {
                    Thread.sleep(sleepTime);
                    sleepTime <<= 1;
                    sleeps++;
                } catch (InterruptedException e) {
                    interrupted = true;
                }
            }
        }
        // no luck
        throw new OutOfMemoryError("Direct buffer memory");
    } finally {
        if (interrupted) {
            // don't swallow interrupts
            Thread.currentThread().interrupt();
        }
    }
}


它大致的作用是做了一个内存上的校验,看是否满足MaxDirectMemorySize的限制,不满足的话就抛异常。


经过校验后DirectByteBuffer构造函数在 base = unsafe.allocateMemory(size); 这里会真正的分配内存,其实也是用unsafe实现的。

总结


堆Dump文件看不出问题或者比较小,可考虑直接内存溢出问题

配置内存时,应给直接内存预留足够的空间

直接内存也叫堆外内存,IO效率较高

可以用Unsafe类或ByteBuffer来分配

Unsafe溢出时报:java.lang.OutOfMemoryError

-XX:MaxDirectMemorySize不起作用

ByteBuffer溢出时报:java.lang.OutOfMemoryError:Direct buffer memory

-XX:MaxDirectMemorySize起作用


相关文章
|
23天前
|
缓存 Prometheus 监控
Elasticsearch集群JVM调优设置合适的堆内存大小
Elasticsearch集群JVM调优设置合适的堆内存大小
191 1
|
2月前
|
存储 安全 Java
jvm 锁的 膨胀过程?锁内存怎么变化的
【10月更文挑战第3天】在Java虚拟机(JVM)中,`synchronized`关键字用于实现同步,确保多个线程在访问共享资源时的一致性和线程安全。JVM对`synchronized`进行了优化,以适应不同的竞争场景,这种优化主要体现在锁的膨胀过程,即从偏向锁到轻量级锁,再到重量级锁的转变。下面我们将详细介绍这一过程以及锁在内存中的变化。
40 4
|
12天前
|
存储 监控 算法
深入探索Java虚拟机(JVM)的内存管理机制
本文旨在为读者提供对Java虚拟机(JVM)内存管理机制的深入理解。通过详细解析JVM的内存结构、垃圾回收算法以及性能优化策略,本文不仅揭示了Java程序高效运行背后的原理,还为开发者提供了优化应用程序性能的实用技巧。不同于常规摘要仅概述文章大意,本文摘要将简要介绍JVM内存管理的关键点,为读者提供一个清晰的学习路线图。
|
21天前
|
Java
JVM内存参数
-Xmx[]:堆空间最大内存 -Xms[]:堆空间最小内存,一般设置成跟堆空间最大内存一样的 -Xmn[]:新生代的最大内存 -xx[use 垃圾回收器名称]:指定垃圾回收器 -xss:设置单个线程栈大小 一般设堆空间为最大可用物理地址的百分之80
|
22天前
|
Java
JVM运行时数据区(内存结构)
1)虚拟机栈:每次调用方法都会在虚拟机栈中产生一个栈帧,每个栈帧中都有方法的参数、局部变量、方法出口等信息,方法执行完毕后释放栈帧 (2)本地方法栈:为native修饰的本地方法提供的空间,在HotSpot中与虚拟机合二为一 (3)程序计数器:保存指令执行的地址,方便线程切回后能继续执行代码
19 3
|
23天前
|
存储 缓存 监控
Elasticsearch集群JVM调优堆外内存
Elasticsearch集群JVM调优堆外内存
44 1
|
1月前
|
Arthas 监控 Java
JVM进阶调优系列(9)大厂面试官:内存溢出几种?能否现场演示一下?| 面试就那点事
本文介绍了JVM内存溢出(OOM)的四种类型:堆内存、栈内存、元数据区和直接内存溢出。每种类型通过示例代码演示了如何触发OOM,并分析了其原因。文章还提供了如何使用JVM命令工具(如jmap、jhat、GCeasy、Arthas等)分析和定位内存溢出问题的方法。最后,强调了合理设置JVM参数和及时回收内存的重要性。
|
1月前
|
Java Linux Windows
JVM内存
首先JVM内存限制于实际的最大物理内存,假设物理内存无限大的话,JVM内存的最大值跟操作系统有很大的关系。简单的说就32位处理器虽然可控内存空间有4GB,但是具体的操作系统会给一个限制,这个限制一般是2GB-3GB(一般来说Windows系统下为1.5G-2G,Linux系统下为2G-3G),而64bit以上的处理器就不会有限制。
19 1
|
2月前
|
缓存 算法 Java
JVM知识体系学习六:JVM垃圾是什么、GC常用垃圾清除算法、堆内存逻辑分区、栈上分配、对象何时进入老年代、有关老年代新生代的两个问题、常见的垃圾回收器、CMS
这篇文章详细介绍了Java虚拟机(JVM)中的垃圾回收机制,包括垃圾的定义、垃圾回收算法、堆内存的逻辑分区、对象的内存分配和回收过程,以及不同垃圾回收器的工作原理和参数设置。
75 4
JVM知识体系学习六:JVM垃圾是什么、GC常用垃圾清除算法、堆内存逻辑分区、栈上分配、对象何时进入老年代、有关老年代新生代的两个问题、常见的垃圾回收器、CMS
|
2月前
|
存储 缓存 算法
JVM核心知识点整理(内存模型),收藏再看!
JVM核心知识点整理(内存模型),收藏再看!
JVM核心知识点整理(内存模型),收藏再看!