解决java poi海量数据导出内存溢出问题

简介: 解决java poi海量数据导出导致内存溢出的问题

找了很多天的解决方法,一直被分页查询绕进去了,其实数据都能查出来的,真正卡的地方是ExcelExportUtil类下调错了方法。



最开始调用的方法是(标记的地方):  workbook = new HSSFWorkbook();和 workbook = new XSSFWorkbook();

这两个方法就是导出Excel的最关键的方法,接下来我来说说这两个方法作用:

1.HSSFWorkbook:是操作Excel2003以前(包括2003)的版本,扩展名是.xls;

2.XSSFWorkbook:是操作Excel2007的版本,扩展名是.xlsx;

对于不同版本的EXCEL文档要使用不同的工具类,如果使用错了,会提示如下错误信息。

org.apache.poi.openxml4j.exceptions.InvalidOperationException

org.apache.poi.poifs.filesystem.OfficeXmlFileException

当数据量超出65536条后,在使用HSSFWorkbook或XSSFWorkbook,程序会报OutOfMemoryError:Javaheap space;内存溢出错误。

而我们的数据量达到了9W条数据,用这两个方法肯定是报内存溢出的错误的。

最终我找到的解决方法是:从POI 3.8版本开始,提供了一种基于XSSF的低内存占用的API----SXSSFWorkbook。

3.SXSSFWorkbook-来至官方的解释:实现“BigGridDemo”策略的流式XSSFWorkbook版本。这允许写入非常大的文件而不会耗尽内存,因为任何时候只有可配置的行部分被保存在内存中。您可以提供用作书面数据基础的模板工作簿。有关详细信息,请参见https://poi.apache.org/spreadsheet/how-to.html#sxssf。请注意,仍然可能会消耗大量内存,这些内存基于您正在使用的功能,例如合并区域,注释......仍然只存储在内存中,因此如果广泛使用,可能需要大量内存。SXSSFWorkbook默认使用内联字符串而不是共享字符串表。这非常有效,因为没有文档内容需要保存在内存中,但也被称为制作与某些客户不兼容的文档。在启用共享字符串的情况下,文档中的所有唯一字符串必须保存在内存中。根据您的文档内容,这可能比共享字符串被禁用时使用更多的资源。在决定是否启用共享字符串之前,请仔细检查您的内存预算和兼容性需求。

而在poi架包中提供的方法用的是:


当数据量超过1000条时就会调用SXSSFWorkbook方法,从而解决了海量的数据导出会发生内存溢出的问题。

[java]  view plain  copy
  1. public void exportContacts(final PortalUserPage page, final HttpServletRequest request,  
  2.            final HttpServletResponse response) throws Exception {  
  3.   
  4.        final String name = "通讯录列表";  
  5.   
  6.        // 去掉分页  
  7.        page.setPage(1);  
  8.        page.setRows(Integer.MAX_VALUE);  
  9.        final List<CmssPortalUser> dataList = (List<CmssPortalUser>) this.queryPortalUserListWithGroup(page);  
  10.        final List<PortalUserExcelDto> userList = new ArrayList<>();  
  11.        for (final CmssPortalUser user : dataList) {  
  12.            final PortalUserExcelDto userDto = new PortalUserExcelDto();  
  13.            userDto.setIndex(user.getIndex() != null ? user.getIndex().toString() : "0");  
  14.            userDto.setRealName(user.getRealName());  
  15.            userDto.setCompany(user.getCompany());  
  16.            userDto.setCompanyBranch(user.getCompanyBranch());  
  17.            userDto.setDepartment(user.getDepartment());  
  18.            userDto.setTitle(user.getTitle());  
  19.            userDto.setPhone(user.getPhone());  
  20.            userDto.setLoginName(user.getLoginName());  
  21.            userDto.setProducts(user.getProducts());  
  22.            userDto.setEmail(user.getEmail());  
  23.            userDto.setGroup(user.getGroup());  
  24.            if (user.getOpenTime() != null) {  
  25.                // 开通时间日期格式化  
  26.                final SimpleDateFormat format = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");  
  27.                userDto.setOpenTime(format.format(user.getOpenTime()));  
  28.            }  
  29.            // 判断全局预览  
  30.            // 根据创建者ID查询该用户是否可以浏览全局  
  31.            user.setIfGlobelView(shareJedis.ifGlobelView(user.getId().longValue()) ? 1 : 0);  
  32.            if (user.getIfGlobelView() != null) {  
  33.                if (user.getIfGlobelView() == Constants.CURRENCY.ZERO) {  
  34.                    userDto.setIfGlobelView("否");  
  35.                }  
  36.                if (user.getIfGlobelView() == Constants.CURRENCY.ONE) {  
  37.                    userDto.setIfGlobelView("是");  
  38.                }  
  39.            }  
  40.            // 判断状态  
  41.            if (StringUtils.isNotBlank(user.getStatus())) {  
  42.                if (Constants.CONTACTS_STATUS.UNAVAILABILITY.equals(user.getStatus())) {  
  43.                    userDto.setStatus("停用");  
  44.                }  
  45.                if (Constants.CONTACTS_STATUS.AVAILABILITY.equals(user.getStatus())) {  
  46.                    userDto.setStatus("启用");  
  47.                }  
  48.            }  
  49.            // VIP类别  
  50.            userDto.setVipCategory(user.getVipCategoryName() != null ? user.getVipCategoryName() : null);  
  51.            // Vip级别  
  52.            userDto.setVipLevel(user.getVipLevelName() != null ? user.getVipLevelName() : null);  
  53.            // 判断短信通知  
  54.            if (user.getIsSendSms() != null) {  
  55.                if (Constants.UNIVERSAL_CONSTANT.ZERO.equals(user.getIsSendSms())) {  
  56.                    userDto.setIsSendSms("否");  
  57.                }  
  58.                if (Constants.UNIVERSAL_CONSTANT.ONE.equals(user.getIsSendSms())) {  
  59.                    userDto.setIsSendSms("是");  
  60.                }  
  61.            }  
  62.            userList.add(userDto);  
  63.        }  
  64.   
  65.        final ExportParams params = new ExportParams(name, name, ExcelType.XSSF);  
  66.        final Workbook workbook = ExcelExportUtil.exportExcel(params, PortalUserExcelDto.class, userList);  
  67.   
  68.        try {  
  69.            final String agent = request.getHeader("User-Agent").toLowerCase();  
  70.            // 开始下载文件  
  71.            final SimpleDateFormat format = new SimpleDateFormat("yyyy-MM-dd");  
  72.            String filename = format.format(new Date().getTime()) + "-" + name + ".xlsx";  
  73.            if (!StringUtils.isEmpty(agent) && agent.contains("msie") || agent.contains("like gecko")  
  74.                    || (agent.indexOf("rv") > 0 && agent.indexOf("firefox") == -1)) {  
  75.                filename = URLEncoder.encode(filename, "UTF-8");  
  76.            } else {  
  77.                filename = new String(filename.getBytes("UTF-8"), "ISO8859-1");  
  78.            }  
  79.            response.setContentType("application/octet-stream");  
  80.   
  81.            response.setHeader("Content-Disposition", "attachment;filename=".concat(filename));  
  82.   
  83.            final OutputStream out = response.getOutputStream();  
  84.            workbook.write(out);  
  85.            out.flush();  
  86.            out.close();  
  87.        } catch (final Exception e) {  
  88.            e.printStackTrace();  
  89.            log.error(e.getMessage());  
  90.        }  
  91.    }  

这部分代码是我所写的批量导出海量数据的部分代码,希望可以帮助和我遇到一样错误的人。
相关文章
|
11月前
|
Java 大数据 Go
从混沌到秩序:Java共享内存模型如何通过显式约束驯服并发?
并发编程旨在混乱中建立秩序。本文对比Java共享内存模型与Golang消息传递模型,剖析显式同步与隐式因果的哲学差异,揭示happens-before等机制如何保障内存可见性与数据一致性,展现两大范式的深层分野。(238字)
431 4
|
11月前
|
存储 缓存 Java
【深入浅出】揭秘Java内存模型(JMM):并发编程的基石
本文深入解析Java内存模型(JMM),揭示synchronized与volatile的底层原理,剖析主内存与工作内存、可见性、有序性等核心概念,助你理解并发编程三大难题及Happens-Before、内存屏障等解决方案,掌握多线程编程基石。
|
安全 Java 应用服务中间件
Spring Boot + Java 21:内存减少 60%,启动速度提高 30% — 零代码
通过调整三个JVM和Spring Boot配置开关,无需重写代码即可显著优化Java应用性能:内存减少60%,启动速度提升30%。适用于所有在JVM上运行API的生产团队,低成本实现高效能。
1301 3
|
缓存 监控 Kubernetes
Java虚拟机内存溢出(Java Heap Space)问题处理方案
综上所述, 解决Java Heap Space溢出需从多角度综合施策; 包括但不限于配置调整、代码审查与优化以及系统设计层面改进; 同样也不能忽视运行期监控与预警设置之重要性; 及早发现潜在风险点并采取相应补救手段至关重要.
1133 17
|
存储 监控 算法
Java垃圾回收机制(GC)与内存模型
本文主要讲述JVM的内存模型和基本调优机制。
|
存储 缓存 Java
Java数组全解析:一维、多维与内存模型
本文深入解析Java数组的内存布局与操作技巧,涵盖一维及多维数组的声明、初始化、内存模型,以及数组常见陷阱和性能优化。通过图文结合的方式帮助开发者彻底理解数组本质,并提供Arrays工具类的实用方法与面试高频问题解析,助你掌握数组核心知识,避免常见错误。
|
边缘计算 算法 Java
Java 绿色计算与性能优化:从内存管理到能耗降低的全方位优化策略与实践技巧
本文探讨了Java绿色计算与性能优化的技术方案和应用实例。文章从JVM调优(包括垃圾回收器选择、内存管理和并发优化)、代码优化(数据结构选择、对象创建和I/O操作优化)等方面提出优化策略,并结合电商平台、社交平台和智能工厂的实际案例,展示了通过Java新特性提升性能、降低能耗的显著效果。最终指出,综合运用这些优化方法不仅能提高系统性能,还能实现绿色计算目标,为企业节省成本并符合环保要求。
409 0
|
监控 Kubernetes Java
最新技术栈驱动的 Java 绿色计算与性能优化实操指南涵盖内存优化与能效提升实战技巧
本文介绍了基于Java 24+技术栈的绿色计算与性能优化实操指南。主要内容包括:1)JVM调优,如分代ZGC配置和结构化并发优化;2)代码级优化,包括向量API加速数据处理和零拷贝I/O;3)容器化环境优化,如K8s资源匹配和节能模式配置;4)监控分析工具使用。通过实践表明,这些优化能显著提升性能(响应时间降低40-60%)同时降低资源消耗(内存减少30-50%,CPU降低20-40%)和能耗(服务器功耗减少15-35%)。建议采用渐进式优化策略。
714 2
|
SQL 缓存 安全
深度理解 Java 内存模型:从并发基石到实践应用
本文深入解析 Java 内存模型(JMM),涵盖其在并发编程中的核心作用与实践应用。内容包括 JMM 解决的可见性、原子性和有序性问题,线程与内存的交互机制,volatile、synchronized 和 happens-before 等关键机制的使用,以及在单例模式、线程通信等场景中的实战案例。同时,还介绍了常见并发 Bug 的排查与解决方案,帮助开发者写出高效、线程安全的 Java 程序。
689 0
|
存储 Java
Java对象的内存布局
在HotSpot虚拟机中,Java对象的内存布局分为三部分:对象头(Header)、实例数据(Instance Data)和对齐填充(Padding)。对象头包含Mark Word、Class对象指针及数组长度;实例数据存储对象的实际字段内容;对齐填充用于确保对象大小为8字节的整数倍。
280 0