JDBC批处理读取指定Excel中数据到Mysql关系型数据库

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL DuckDB 分析主实例,集群系列 8核16GB
简介:

这个demo是有一个Excel中的数据,我需要读取其中的数据然后导入到关系型数据库中,但是为了向数据库中插入更多的数据,循环N次Excel中的结果.

关于JDBC的批处理还可以参考我总结的如下博文:

http://www.cnblogs.com/DreamDrive/p/5757693.html

此外用到了读取Excel文件的jxl.jar包

下载地址:http://files.cnblogs.com/files/DreamDrive/jxl.rar

附代码:

复制代码
  1 import java.io.FileInputStream;
  2 import java.io.IOException;
  3 import java.io.InputStream;
  4 import java.sql.Connection;
  5 import java.sql.DriverManager;
  6 import java.sql.PreparedStatement;
  7 import java.sql.SQLException;
  8 import java.sql.Statement;
  9 import java.util.ArrayList;
 10 import java.util.List;
 11 
 12 import jxl.Cell;
 13 import jxl.Workbook;
 14 
 15 /**
 16  * Excel模板中的数据分析导入到Mysql中.
 17  * @author CDV-DX7
 18  *
 19  */
 20 public class ExcelToMysql {
 21     public static void main(String[] args) {
 22         String excelUrl = "C:\\Users\\CDV-DX7\\Desktop\\节目信息输入数据.xls";
 23         excel2db(excelUrl);
 24     }
 25 
 26     public static void excel2db(String importPath) {
 27         List<Cell[]> rowList;
 28         rowList = jxlGetExcelRows(importPath);
 29         try {
 30             long start = System.currentTimeMillis();
 31             Class.forName("com.mysql.jdbc.Driver");
 32             Connection connection = DriverManager.getConnection("jdbc:mysql://127.0.0.1:3306/50million?rewriteBatchedStatements=true","root","root");
 33             connection.setAutoCommit(false);
 34             PreparedStatement cmd = connection.prepareStatement("insert into asset (assetname,director,screenwriter,actor,programtype,region,language,releasetime,duration,alias) "
 35                     + "values(?,?,?,?,?,?,?,?,?,?)");
 36             
 37             String assetname = null;
 38             String director = null;
 39             String screenwriter = null;
 40             String actor = null;
 41             String programtype = null;
 42             String region = null;
 43             String language = null;
 44             String releasetime = null;
 45             String duration = null;
 46             String alias = null;
 47             int totalCount = 0;
 48             for (int k=1;k<442478;k++){
 49                 //50万对应.........................redis是0号数据库
 50                 //100万对应循环次数8851---用时65680---redis是1号数据库
 51                 //500万对应循环次数44248---用时469947---redis是2号数据库
 52                 //1000万对应循环次数88496---用时1385016---redis是3号数据库
 53                 //5000万对应循环次数442478---用时C盘空间不够了....暂时不做数据了..
 54                 for (int m=1; m<rowList.size(); m++) {
 55                     Cell[] cells = rowList.get(m);
 56                     for(int i=0; i<cells.length-1; i++){
 57                         totalCount++;
 58                         String contents = cells[i].getContents(); 
 59                         switch(i){
 60                             case 0:
 61                                 assetname = contents;
 62                                 break;
 63                             case 1:
 64                                 director = contents;
 65                                 break;
 66                             case 2:
 67                                 screenwriter = contents;
 68                                 break;
 69                             case 3:
 70                                 actor = contents;
 71                                 break;
 72                             case 4:
 73                                 programtype = contents;
 74                                 break;
 75                             case 5:
 76                                 region = contents;
 77                                 break;
 78                             case 6:
 79                                 language = contents;
 80                                 break;
 81                             case 7:
 82                                 releasetime = contents;
 83                                 break;
 84                             case 8:
 85                                 duration = contents;
 86                                 break;
 87                             case 9:
 88                                 alias = contents;
 89                                 break;
 90 
 91                         }
 92                     }
 93                     cmd.setString(1,assetname);
 94                     cmd.setString(2,director);
 95                     cmd.setString(3,screenwriter);
 96                     cmd.setString(4,actor);
 97                     cmd.setString(5,programtype);
 98                     cmd.setString(6,region);
 99                     cmd.setString(7,language);
100                     cmd.setString(8,releasetime);
101                     cmd.setString(9,duration);
102                     cmd.setString(10,alias);
103                     
104                     cmd.addBatch();
105                     if(totalCount%10000==0){
106                         cmd.executeBatch();
107                     }
108                 }
109             }
110             cmd.executeBatch();
111             connection.commit();
112             long end = System.currentTimeMillis();//
113             System.out.println("批量插入需要时间:"+(end - start));
114             cmd.close();
115             connection.close();
116         } catch (Exception e) {
117             e.printStackTrace();
118         } 
119     }
120     
121     /**
122      * 得到指定Excel文件中(可以再指定标签)中的行....
123      * @param filename
124      * @return
125      */
126     private static List<Cell[]> jxlGetExcelRows(String filename) {
127         InputStream is = null;
128         jxl.Workbook rwb = null;
129         List<Cell[]> list = new ArrayList<Cell[]>();
130         try {
131             is = new FileInputStream(filename);
132             rwb = Workbook.getWorkbook(is);
133             // Sheet[] sheets = rwb.getSheets();
134             // int sheetLen = sheets.length;
135             jxl.Sheet rs = rwb.getSheet(0); // 默认先读取第一个工作表的数据
136             
137             //getRows() 获取总共多少行...getRow(n)获取第n行...
138             for(int i=0; i<rs.getRows(); i++ ){
139                 list.add(rs.getRow(i));
140             }
141         } catch (Exception ex) {
142             ex.printStackTrace();
143         } finally {
144             rwb.close();
145             try {
146                 is.close();
147             } catch (IOException e) {
148                 e.printStackTrace();
149             }
150         }
151         return list;
152     }
153 }
复制代码

 

 


本文转自SummerChill博客园博客,原文链接:http://www.cnblogs.com/DreamDrive/p/5826997.html,如需转载请自行联系原作者

相关文章
|
5月前
|
Python
如何根据Excel某列数据为依据分成一个新的工作表
在处理Excel数据时,我们常需要根据列值将数据分到不同的工作表或文件中。本文通过Python和VBA两种方法实现该操作:使用Python的`pandas`库按年级拆分为多个文件,再通过VBA宏按班级生成新的工作表,帮助高效整理复杂数据。
|
5月前
|
数据采集 数据可视化 数据挖掘
用 Excel+Power Query 做电商数据分析:从 “每天加班整理数据” 到 “一键生成报表” 的配置教程
在电商运营中,数据是增长的关键驱动力。然而,传统的手工数据处理方式效率低下,耗费大量时间且易出错。本文介绍如何利用 Excel 中的 Power Query 工具,自动化完成电商数据的采集、清洗与分析,大幅提升数据处理效率。通过某美妆电商的实战案例,详细拆解从多平台数据整合到可视化报表生成的全流程,帮助电商从业者摆脱繁琐操作,聚焦业务增长,实现数据驱动的高效运营。
|
5月前
|
SQL 人工智能 关系型数据库
如何实现MySQL百万级数据的查询?
本文探讨了在MySQL中对百万级数据进行排序分页查询的优化策略。面对五百万条数据,传统的浅分页和深分页查询效率较低,尤其深分页因偏移量大导致性能显著下降。通过为排序字段添加索引、使用联合索引、手动回表等方法,有效提升了查询速度。最终建议根据业务需求选择合适方案:浅分页可加单列索引,深分页推荐联合索引或子查询优化,同时结合前端传递最后一条数据ID的方式实现高效翻页。
281 0
|
3月前
|
SQL 关系型数据库 MySQL
如何将Excel表的数据导入RDS MySQL数据库?
本文介绍如何通过数据管理服务DMS将Excel文件(转为CSV格式)导入RDS MySQL数据库,涵盖建表、编码设置、导入模式选择及审批执行流程,并提供操作示例与注意事项。
|
4月前
|
存储 关系型数据库 MySQL
在CentOS 8.x上安装Percona Xtrabackup工具备份MySQL数据步骤。
以上就是在CentOS8.x上通过Perconaxtabbackup工具对Mysql进行高效率、高可靠性、无锁定影响地实现在线快速全量及增加式数据库资料保存与恢复流程。通过以上流程可以有效地将Mysql相关资料按需求完成定期或不定期地保存与灾难恢复需求。
359 10
|
5月前
|
SQL 存储 缓存
MySQL 如何高效可靠处理持久化数据
本文详细解析了 MySQL 的 SQL 执行流程、crash-safe 机制及性能优化策略。内容涵盖连接器、分析器、优化器、执行器与存储引擎的工作原理,深入探讨 redolog 与 binlog 的两阶段提交机制,并分析日志策略、组提交、脏页刷盘等关键性能优化手段,帮助提升数据库稳定性与执行效率。
145 0
|
5月前
|
Python
将Excel特定某列数据删除
将Excel特定某列数据删除
|
Java 关系型数据库 MySQL
mysql5.7 jdbc驱动
遵循上述步骤,即可在Java项目中高效地集成MySQL 5.7 JDBC驱动,实现数据库的访问与管理。
2545 1
|
SQL druid Java
Java数据库部分(MySQL+JDBC)(二、JDBC超详细学习笔记)(下)
Java数据库部分(MySQL+JDBC)(二、JDBC超详细学习笔记)
192 3
Java数据库部分(MySQL+JDBC)(二、JDBC超详细学习笔记)(下)
|
SQL Java 关系型数据库
Java数据库部分(MySQL+JDBC)(二、JDBC超详细学习笔记)(上)
Java数据库部分(MySQL+JDBC)(二、JDBC超详细学习笔记)
591 3
Java数据库部分(MySQL+JDBC)(二、JDBC超详细学习笔记)(上)

热门文章

最新文章

推荐镜像

更多