8 种 Java 内存溢出之七 -Requested array size exceeds VM limit

简介: 8 种 Java 内存溢出之七 -Requested array size exceeds VM limit

7.1 Requested array size exceeds VM limit 概述

Java 对你的应用可以分配的最大数组大小有限制. 准确的限制与平台有关, 但是通常都位于 10 到 21 亿元素之间.

当你面临java.lang.OutOfMemoryError: Requested array size exceeds VM limit, 意味着应用因为尝试分配一个大于 JVM 可以支持的数组而报错 crash.

7.2 原因

该错误是由 JVM 的本地代码抛出的. 它发生在为一个数组分配内存之前, 这时 JVM 会执行一个与平台有关的检查: 是否待分配的数据结构在这个平台是可寻址的. 这个错误并不像你最初想象的那样普遍。

你很少面对这个错误的原因是 Java 数组是由 int 类型索引的. 在 Java 中最大的正整数是: 2^31 -1 = 2,147,483,647. 平台相关的限制确实相当接近这个数字 – 例如在 MacBook Pro, Java 1.7, 可以初始化数组到 2,147,483,645 或 Integer.MAX_VALUE-2 元素.

数组长度再加 1 到 Integer.MAX_VALUE-1 会导致该 OutOfMemoryError:

Exception in thread “main” java.lang.OutOfMemoryError:
Requested array size exceeds VM limit
SMALI

但是这个限制有时也并不是那么高 – 在 32-bit Linux, OpenJDK 6 上, 你会在分配一个大约 11 亿元素的数组时候出现 java.lang.OutOfMemoryError: Requested array size exceeds VM limit 报错. 要知道你的特定环境的限制大小, 可以运行下面这个小的测试程序.

7.3 示例

要尝试重现 java.lang.OutOfMemoryError: Requested array size exceeds VM limit 错误, 让我们来看一下下面的代码:

for (int i=3; i>=0; i--) {
    try {
        int[] arr = new int[Integer.MAX_VALUE-i];
        System.out.format("Successfully initialized an array with %,d elements .\n", Integer.MAX_VALUE-i);
    } catch (Throwable t) {
        t.printStackTrace();
    }
}
JAVA

该示例循环四次, 并在每次循环中初始化一个长基元数组。该程序试图初始化的数组大小在每次迭代时都增长一个, 最终达到整数MAX_VALUE。现在, 当在 64 位 Mac OS X 上使用 Hotspot 7 启动代码段时, 你应该得到类似于以下内容的输出:

java.lang.OutOfMemoryError: Java heap space
  at eu.plumbr.demo.ArraySize.main(ArraySize.java:8)
java.lang.OutOfMemoryError: Java heap space
  at eu.plumbr.demo.ArraySize.main(ArraySize.java:8)
java.lang.OutOfMemoryError: Requested array size exceeds VM limit
  at eu.plumbr.demo.ArraySize.main(ArraySize.java:8)
java.lang.OutOfMemoryError: Requested array size exceeds VM limit
  at eu.plumbr.demo.ArraySize.main(ArraySize.java:8)
STYLUS

注意到在最后 2 次尝试面临 java.lang.OutOfMemoryError: Requested array size exceeds VM limit 之前, 分配失败报出了更为常见的 java.lang.OutOfMemoryError: Java heap space 消息. 这是因为你尝试分配空间的 2^31-1 int 需要 8G 内存, 远大于 JVM 的默认内存.

这个例子也说明了这个错误很稀少 – 为了看到 VM 达到数组大小的限制, 你需要分配一个数据刚好位于平台的限制和 Integer.MAX_INT 之间. 当这个例子在 64bit Mac OS X, Hotspot 7 上运行时, 只有 2 个满足要求的数组长度: Integer.MAX_INT-1 and Integer.MAX_INT.

7.4 解决方案

java.lang.OutOfMemoryError: Requested array size exceeds VM limit在以下 2 种情况下会出现:

  • 你的数组增长的太大, 最终大小位于平台的限制和 Integer.MAX_INT 之间
  • 您特意尝试分配大于 2 ^ 31-1 元素的数组来试验该限制。

在第一种情况下, 检查您的代码库, 看看您是否真的需要这么大的数组。也许你可以减少数组的大小, 并完成它。或将阵列划分为较小的散点, 并将所需的数据加载到您的平台限制中的批次中。

在第二种情况下 - 请记住, Java 数组是由 int 索引. 因此, 在使用平台中的标准数据结构时, 您不能超过 2 ^ 31-1 元素的数组。实际上, 在这种情况下, 编译器在编译过程中宣布 “错误: 整数太大(error: integer number too large)” 时已经阻止了您.

但是, 如果你真的使用真正的大型数据集, 你需要重新考虑你的选择. 您可以在较小的批次中加载所需的数据, 并且仍然使用标准的 Java 工具, 或者您可能会超出标准的实用程序. 实现这一目标的一个方法是查看 sun.misc.Unsafe 类。这使您可以像在 C 中一样直接分配内存。

相关文章
|
17天前
|
存储 Java 编译器
Java内存模型(JMM)深度解析####
本文深入探讨了Java内存模型(JMM)的工作原理,旨在帮助开发者理解多线程环境下并发编程的挑战与解决方案。通过剖析JVM如何管理线程间的数据可见性、原子性和有序性问题,本文将揭示synchronized关键字背后的机制,并介绍volatile关键字和final关键字在保证变量同步与不可变性方面的作用。同时,文章还将讨论现代Java并发工具类如java.util.concurrent包中的核心组件,以及它们如何简化高效并发程序的设计。无论你是初学者还是有经验的开发者,本文都将为你提供宝贵的见解,助你在Java并发编程领域更进一步。 ####
|
27天前
|
缓存 easyexcel Java
Java EasyExcel 导出报内存溢出如何解决
大家好,我是V哥。使用EasyExcel进行大数据量导出时容易导致内存溢出,特别是在导出百万级别的数据时。以下是V哥整理的解决该问题的一些常见方法,包括分批写入、设置合适的JVM内存、减少数据对象的复杂性、关闭自动列宽设置、使用Stream导出以及选择合适的数据导出工具。此外,还介绍了使用Apache POI的SXSSFWorkbook实现百万级别数据量的导出案例,帮助大家更好地应对大数据导出的挑战。欢迎一起讨论!
144 1
|
11天前
|
缓存 算法 Java
本文聚焦于Java内存管理与调优,介绍Java内存模型、内存泄漏检测与预防、高效字符串拼接、数据结构优化及垃圾回收机制
在现代软件开发中,性能优化至关重要。本文聚焦于Java内存管理与调优,介绍Java内存模型、内存泄漏检测与预防、高效字符串拼接、数据结构优化及垃圾回收机制。通过调整垃圾回收器参数、优化堆大小与布局、使用对象池和缓存技术,开发者可显著提升应用性能和稳定性。
33 6
|
16天前
|
存储 缓存 安全
Java内存模型(JMM):深入理解并发编程的基石####
【10月更文挑战第29天】 本文作为一篇技术性文章,旨在深入探讨Java内存模型(JMM)的核心概念、工作原理及其在并发编程中的应用。我们将从JMM的基本定义出发,逐步剖析其如何通过happens-before原则、volatile关键字、synchronized关键字等机制,解决多线程环境下的数据可见性、原子性和有序性问题。不同于常规摘要的简述方式,本摘要将直接概述文章的核心内容,为读者提供一个清晰的学习路径。 ####
35 2
|
17天前
|
存储 安全 Java
什么是 Java 的内存模型?
Java内存模型(Java Memory Model, JMM)是Java虚拟机(JVM)规范的一部分,它定义了一套规则,用于指导Java程序中变量的访问和内存交互方式。
40 1
|
22天前
|
存储 运维 Java
💻Java零基础:深入了解Java内存机制
【10月更文挑战第18天】本文收录于「滚雪球学Java」专栏,专业攻坚指数级提升,希望能够助你一臂之力,帮你早日登顶实现财富自由🚀;同时,欢迎大家关注&&收藏&&订阅!持续更新中,up!up!up!!
27 1
|
26天前
|
存储 算法 Java
Java虚拟机(JVM)的内存管理与性能优化
本文深入探讨了Java虚拟机(JVM)的内存管理机制,包括堆、栈、方法区等关键区域的功能与作用。通过分析垃圾回收算法和调优策略,旨在帮助开发者理解如何有效提升Java应用的性能。文章采用通俗易懂的语言,结合具体实例,使读者能够轻松掌握复杂的内存管理概念,并应用于实际开发中。
|
1月前
|
存储 监控 算法
Java中的内存管理与垃圾回收机制解析
本文深入探讨了Java编程语言中的内存管理方式,特别是垃圾回收机制。我们将了解Java的自动内存管理是如何工作的,它如何帮助开发者避免常见的内存泄漏问题。通过分析不同垃圾回收算法(如标记-清除、复制和标记-整理)以及JVM如何选择合适的垃圾回收策略,本文旨在帮助Java开发者更好地理解和优化应用程序的性能。
|
1月前
|
缓存 安全 Java
使用 Java 内存模型解决多线程中的数据竞争问题
【10月更文挑战第11天】在 Java 多线程编程中,数据竞争是一个常见问题。通过使用 `synchronized` 关键字、`volatile` 关键字、原子类、显式锁、避免共享可变数据、合理设计数据结构、遵循线程安全原则和使用线程池等方法,可以有效解决数据竞争问题,确保程序的正确性和稳定性。
38 2
|
25天前
|
监控 安全 Java
Java Z 垃圾收集器如何彻底改变内存管理
大家好,我是V哥。今天聊聊Java的ZGC(Z Garbage Collector)。ZGC是一个低延迟垃圾收集器,专为大内存应用场景设计。其核心优势包括:极低的暂停时间(通常低于10毫秒)、支持TB级内存、使用着色指针实现高效对象管理、并发压缩和去碎片化、不分代的内存管理。适用于实时数据分析、高性能服务器和在线交易系统等场景,能显著提升应用的性能和稳定性。如何启用?只需在JVM启动参数中加入`-XX:+UseZGC`即可。
145 0