解决java poi海量数据导出内存溢出问题

简介: 解决java poi海量数据导出导致内存溢出的问题

找了很多天的解决方法,一直被分页查询绕进去了,其实数据都能查出来的,真正卡的地方是ExcelExportUtil类下调错了方法。



最开始调用的方法是(标记的地方):  workbook = new HSSFWorkbook();和 workbook = new XSSFWorkbook();

这两个方法就是导出Excel的最关键的方法,接下来我来说说这两个方法作用:

1.HSSFWorkbook:是操作Excel2003以前(包括2003)的版本,扩展名是.xls;

2.XSSFWorkbook:是操作Excel2007的版本,扩展名是.xlsx;

对于不同版本的EXCEL文档要使用不同的工具类,如果使用错了,会提示如下错误信息。

org.apache.poi.openxml4j.exceptions.InvalidOperationException

org.apache.poi.poifs.filesystem.OfficeXmlFileException

当数据量超出65536条后,在使用HSSFWorkbook或XSSFWorkbook,程序会报OutOfMemoryError:Javaheap space;内存溢出错误。

而我们的数据量达到了9W条数据,用这两个方法肯定是报内存溢出的错误的。

最终我找到的解决方法是:从POI 3.8版本开始,提供了一种基于XSSF的低内存占用的API----SXSSFWorkbook。

3.SXSSFWorkbook-来至官方的解释:实现“BigGridDemo”策略的流式XSSFWorkbook版本。这允许写入非常大的文件而不会耗尽内存,因为任何时候只有可配置的行部分被保存在内存中。您可以提供用作书面数据基础的模板工作簿。有关详细信息,请参见https://poi.apache.org/spreadsheet/how-to.html#sxssf。请注意,仍然可能会消耗大量内存,这些内存基于您正在使用的功能,例如合并区域,注释......仍然只存储在内存中,因此如果广泛使用,可能需要大量内存。SXSSFWorkbook默认使用内联字符串而不是共享字符串表。这非常有效,因为没有文档内容需要保存在内存中,但也被称为制作与某些客户不兼容的文档。在启用共享字符串的情况下,文档中的所有唯一字符串必须保存在内存中。根据您的文档内容,这可能比共享字符串被禁用时使用更多的资源。在决定是否启用共享字符串之前,请仔细检查您的内存预算和兼容性需求。

而在poi架包中提供的方法用的是:


当数据量超过1000条时就会调用SXSSFWorkbook方法,从而解决了海量的数据导出会发生内存溢出的问题。

[java]  view plain  copy
  1. public void exportContacts(final PortalUserPage page, final HttpServletRequest request,  
  2.            final HttpServletResponse response) throws Exception {  
  3.   
  4.        final String name = "通讯录列表";  
  5.   
  6.        // 去掉分页  
  7.        page.setPage(1);  
  8.        page.setRows(Integer.MAX_VALUE);  
  9.        final List<CmssPortalUser> dataList = (List<CmssPortalUser>) this.queryPortalUserListWithGroup(page);  
  10.        final List<PortalUserExcelDto> userList = new ArrayList<>();  
  11.        for (final CmssPortalUser user : dataList) {  
  12.            final PortalUserExcelDto userDto = new PortalUserExcelDto();  
  13.            userDto.setIndex(user.getIndex() != null ? user.getIndex().toString() : "0");  
  14.            userDto.setRealName(user.getRealName());  
  15.            userDto.setCompany(user.getCompany());  
  16.            userDto.setCompanyBranch(user.getCompanyBranch());  
  17.            userDto.setDepartment(user.getDepartment());  
  18.            userDto.setTitle(user.getTitle());  
  19.            userDto.setPhone(user.getPhone());  
  20.            userDto.setLoginName(user.getLoginName());  
  21.            userDto.setProducts(user.getProducts());  
  22.            userDto.setEmail(user.getEmail());  
  23.            userDto.setGroup(user.getGroup());  
  24.            if (user.getOpenTime() != null) {  
  25.                // 开通时间日期格式化  
  26.                final SimpleDateFormat format = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss");  
  27.                userDto.setOpenTime(format.format(user.getOpenTime()));  
  28.            }  
  29.            // 判断全局预览  
  30.            // 根据创建者ID查询该用户是否可以浏览全局  
  31.            user.setIfGlobelView(shareJedis.ifGlobelView(user.getId().longValue()) ? 1 : 0);  
  32.            if (user.getIfGlobelView() != null) {  
  33.                if (user.getIfGlobelView() == Constants.CURRENCY.ZERO) {  
  34.                    userDto.setIfGlobelView("否");  
  35.                }  
  36.                if (user.getIfGlobelView() == Constants.CURRENCY.ONE) {  
  37.                    userDto.setIfGlobelView("是");  
  38.                }  
  39.            }  
  40.            // 判断状态  
  41.            if (StringUtils.isNotBlank(user.getStatus())) {  
  42.                if (Constants.CONTACTS_STATUS.UNAVAILABILITY.equals(user.getStatus())) {  
  43.                    userDto.setStatus("停用");  
  44.                }  
  45.                if (Constants.CONTACTS_STATUS.AVAILABILITY.equals(user.getStatus())) {  
  46.                    userDto.setStatus("启用");  
  47.                }  
  48.            }  
  49.            // VIP类别  
  50.            userDto.setVipCategory(user.getVipCategoryName() != null ? user.getVipCategoryName() : null);  
  51.            // Vip级别  
  52.            userDto.setVipLevel(user.getVipLevelName() != null ? user.getVipLevelName() : null);  
  53.            // 判断短信通知  
  54.            if (user.getIsSendSms() != null) {  
  55.                if (Constants.UNIVERSAL_CONSTANT.ZERO.equals(user.getIsSendSms())) {  
  56.                    userDto.setIsSendSms("否");  
  57.                }  
  58.                if (Constants.UNIVERSAL_CONSTANT.ONE.equals(user.getIsSendSms())) {  
  59.                    userDto.setIsSendSms("是");  
  60.                }  
  61.            }  
  62.            userList.add(userDto);  
  63.        }  
  64.   
  65.        final ExportParams params = new ExportParams(name, name, ExcelType.XSSF);  
  66.        final Workbook workbook = ExcelExportUtil.exportExcel(params, PortalUserExcelDto.class, userList);  
  67.   
  68.        try {  
  69.            final String agent = request.getHeader("User-Agent").toLowerCase();  
  70.            // 开始下载文件  
  71.            final SimpleDateFormat format = new SimpleDateFormat("yyyy-MM-dd");  
  72.            String filename = format.format(new Date().getTime()) + "-" + name + ".xlsx";  
  73.            if (!StringUtils.isEmpty(agent) && agent.contains("msie") || agent.contains("like gecko")  
  74.                    || (agent.indexOf("rv") > 0 && agent.indexOf("firefox") == -1)) {  
  75.                filename = URLEncoder.encode(filename, "UTF-8");  
  76.            } else {  
  77.                filename = new String(filename.getBytes("UTF-8"), "ISO8859-1");  
  78.            }  
  79.            response.setContentType("application/octet-stream");  
  80.   
  81.            response.setHeader("Content-Disposition""attachment;filename=".concat(filename));  
  82.   
  83.            final OutputStream out = response.getOutputStream();  
  84.            workbook.write(out);  
  85.            out.flush();  
  86.            out.close();  
  87.        } catch (final Exception e) {  
  88.            e.printStackTrace();  
  89.            log.error(e.getMessage());  
  90.        }  
  91.    }  

这部分代码是我所写的批量导出海量数据的部分代码,希望可以帮助和我遇到一样错误的人。
相关文章
|
1天前
|
缓存 监控 算法
【Java】Java内存溢出:原因、预防和解决方法
【Java】Java内存溢出:原因、预防和解决方法
9 2
|
1天前
|
存储 分布式计算 监控
Java一分钟之-Hazelcast:内存数据网格
【6月更文挑战第17天】**Hazelcast是开源的内存数据网格(IMDG),加速分布式环境中的数据访问,提供内存存储、分布式计算、线性扩展及高可用性。常见挑战包括内存管理、网络分区和数据分布不均。通过配置内存限制、优化网络和分区策略可避免问题。示例展示如何创建Hazelcast实例并使用分布式Map。使用Hazelcast提升性能和扩展性,关键在于理解和调优。**
17 1
|
4天前
|
存储 缓存 安全
深入理解 Java 内存模型(Java Memory Model, JMM)
深入理解 Java 内存模型(Java Memory Model, JMM)
7 0
|
6天前
|
存储 缓存 Java
Java内存模型
Java内存模型
8 0
|
15天前
|
Java 缓存 存储
Java内存模型是什么
本文介绍了Java并发编程中重要的Java内存模型(JMM),该模型基于硬件内存模型,旨在解决CPU缓存一致性与处理器重排序问题,确保多线程环境下的原子性、可见性和有序性。文章首先讲解了CPU执行过程中的高速缓存和由此引发的缓存一致性问题,以及处理器的重排序现象。接着,引入了计算机内存模型,它是处理这些问题的操作规范。随后,阐述了Java内存模型,其规定了变量存储在主存,线程有自己的工作区,通过主存实现线程间通信,从而在Java层面保证内存一致性。最后,对比了JMM和计算机内存模型的异同,强调两者作用于不同层次的内存一致性保障。
|
18天前
|
监控 Java 编译器
Java的内存模型与并发控制技术性文章
Java的内存模型与并发控制技术性文章
17 2
|
19天前
|
存储 算法 Java
Java的内存模型与垃圾回收机制
Java的内存模型与垃圾回收机制
|
20天前
|
存储 Java 编译器
Java方法的基本内存原理与代码实例
Java方法的基本内存原理与代码实例
19 0
|
21天前
|
存储 缓存 监控
Java的内存管理
Java的内存管理
23 0
|
22天前
|
存储 Java 开发者
深入理解Java虚拟机:JVM内存模型解析
【5月更文挑战第27天】 在Java程序的运行过程中,JVM(Java Virtual Machine)扮演着至关重要的角色。作为Java语言的核心执行环境,JVM不仅负责代码的执行,还管理着程序运行时的内存分配与回收。本文将深入探讨JVM的内存模型,包括其结构、各部分的作用以及它们之间的相互关系。通过对JVM内存模型的剖析,我们能够更好地理解Java程序的性能特征,并针对性地进行调优,从而提升应用的执行效率和稳定性。