JDBC批处理读取指定Excel中数据到Mysql关系型数据库

本文涉及的产品
Redis 开源版,标准版 2GB
推荐场景:
搭建游戏排行榜
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 Tair(兼容Redis),内存型 2GB
简介:

这个demo是有一个Excel中的数据,我需要读取其中的数据然后导入到关系型数据库中,但是为了向数据库中插入更多的数据,循环N次Excel中的结果.

关于JDBC的批处理还可以参考我总结的如下博文:

http://www.cnblogs.com/DreamDrive/p/5757693.html

此外用到了读取Excel文件的jxl.jar包

下载地址:http://files.cnblogs.com/files/DreamDrive/jxl.rar

附代码:

复制代码
  1 import java.io.FileInputStream;
  2 import java.io.IOException;
  3 import java.io.InputStream;
  4 import java.sql.Connection;
  5 import java.sql.DriverManager;
  6 import java.sql.PreparedStatement;
  7 import java.sql.SQLException;
  8 import java.sql.Statement;
  9 import java.util.ArrayList;
 10 import java.util.List;
 11 
 12 import jxl.Cell;
 13 import jxl.Workbook;
 14 
 15 /**
 16  * Excel模板中的数据分析导入到Mysql中.
 17  * @author CDV-DX7
 18  *
 19  */
 20 public class ExcelToMysql {
 21     public static void main(String[] args) {
 22         String excelUrl = "C:\\Users\\CDV-DX7\\Desktop\\节目信息输入数据.xls";
 23         excel2db(excelUrl);
 24     }
 25 
 26     public static void excel2db(String importPath) {
 27         List<Cell[]> rowList;
 28         rowList = jxlGetExcelRows(importPath);
 29         try {
 30             long start = System.currentTimeMillis();
 31             Class.forName("com.mysql.jdbc.Driver");
 32             Connection connection = DriverManager.getConnection("jdbc:mysql://127.0.0.1:3306/50million?rewriteBatchedStatements=true","root","root");
 33             connection.setAutoCommit(false);
 34             PreparedStatement cmd = connection.prepareStatement("insert into asset (assetname,director,screenwriter,actor,programtype,region,language,releasetime,duration,alias) "
 35                     + "values(?,?,?,?,?,?,?,?,?,?)");
 36             
 37             String assetname = null;
 38             String director = null;
 39             String screenwriter = null;
 40             String actor = null;
 41             String programtype = null;
 42             String region = null;
 43             String language = null;
 44             String releasetime = null;
 45             String duration = null;
 46             String alias = null;
 47             int totalCount = 0;
 48             for (int k=1;k<442478;k++){
 49                 //50万对应.........................redis是0号数据库
 50                 //100万对应循环次数8851---用时65680---redis是1号数据库
 51                 //500万对应循环次数44248---用时469947---redis是2号数据库
 52                 //1000万对应循环次数88496---用时1385016---redis是3号数据库
 53                 //5000万对应循环次数442478---用时C盘空间不够了....暂时不做数据了..
 54                 for (int m=1; m<rowList.size(); m++) {
 55                     Cell[] cells = rowList.get(m);
 56                     for(int i=0; i<cells.length-1; i++){
 57                         totalCount++;
 58                         String contents = cells[i].getContents(); 
 59                         switch(i){
 60                             case 0:
 61                                 assetname = contents;
 62                                 break;
 63                             case 1:
 64                                 director = contents;
 65                                 break;
 66                             case 2:
 67                                 screenwriter = contents;
 68                                 break;
 69                             case 3:
 70                                 actor = contents;
 71                                 break;
 72                             case 4:
 73                                 programtype = contents;
 74                                 break;
 75                             case 5:
 76                                 region = contents;
 77                                 break;
 78                             case 6:
 79                                 language = contents;
 80                                 break;
 81                             case 7:
 82                                 releasetime = contents;
 83                                 break;
 84                             case 8:
 85                                 duration = contents;
 86                                 break;
 87                             case 9:
 88                                 alias = contents;
 89                                 break;
 90 
 91                         }
 92                     }
 93                     cmd.setString(1,assetname);
 94                     cmd.setString(2,director);
 95                     cmd.setString(3,screenwriter);
 96                     cmd.setString(4,actor);
 97                     cmd.setString(5,programtype);
 98                     cmd.setString(6,region);
 99                     cmd.setString(7,language);
100                     cmd.setString(8,releasetime);
101                     cmd.setString(9,duration);
102                     cmd.setString(10,alias);
103                     
104                     cmd.addBatch();
105                     if(totalCount%10000==0){
106                         cmd.executeBatch();
107                     }
108                 }
109             }
110             cmd.executeBatch();
111             connection.commit();
112             long end = System.currentTimeMillis();//
113             System.out.println("批量插入需要时间:"+(end - start));
114             cmd.close();
115             connection.close();
116         } catch (Exception e) {
117             e.printStackTrace();
118         } 
119     }
120     
121     /**
122      * 得到指定Excel文件中(可以再指定标签)中的行....
123      * @param filename
124      * @return
125      */
126     private static List<Cell[]> jxlGetExcelRows(String filename) {
127         InputStream is = null;
128         jxl.Workbook rwb = null;
129         List<Cell[]> list = new ArrayList<Cell[]>();
130         try {
131             is = new FileInputStream(filename);
132             rwb = Workbook.getWorkbook(is);
133             // Sheet[] sheets = rwb.getSheets();
134             // int sheetLen = sheets.length;
135             jxl.Sheet rs = rwb.getSheet(0); // 默认先读取第一个工作表的数据
136             
137             //getRows() 获取总共多少行...getRow(n)获取第n行...
138             for(int i=0; i<rs.getRows(); i++ ){
139                 list.add(rs.getRow(i));
140             }
141         } catch (Exception ex) {
142             ex.printStackTrace();
143         } finally {
144             rwb.close();
145             try {
146                 is.close();
147             } catch (IOException e) {
148                 e.printStackTrace();
149             }
150         }
151         return list;
152     }
153 }
复制代码

 

 


本文转自SummerChill博客园博客,原文链接:http://www.cnblogs.com/DreamDrive/p/5826997.html,如需转载请自行联系原作者

相关实践学习
基于Redis实现在线游戏积分排行榜
本场景将介绍如何基于Redis数据库实现在线游戏中的游戏玩家积分排行榜功能。
云数据库 Redis 版使用教程
云数据库Redis版是兼容Redis协议标准的、提供持久化的内存数据库服务,基于高可靠双机热备架构及可无缝扩展的集群架构,满足高读写性能场景及容量需弹性变配的业务需求。 产品详情:https://www.aliyun.com/product/kvstore &nbsp; &nbsp; ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库&nbsp;ECS 实例和一台目标数据库&nbsp;RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&amp;RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
1月前
|
数据采集 数据可视化 数据挖掘
利用Python自动化处理Excel数据:从基础到进阶####
本文旨在为读者提供一个全面的指南,通过Python编程语言实现Excel数据的自动化处理。无论你是初学者还是有经验的开发者,本文都将帮助你掌握Pandas和openpyxl这两个强大的库,从而提升数据处理的效率和准确性。我们将从环境设置开始,逐步深入到数据读取、清洗、分析和可视化等各个环节,最终实现一个实际的自动化项目案例。 ####
124 10
|
13天前
|
存储 Java easyexcel
招行面试:100万级别数据的Excel,如何秒级导入到数据库?
本文由40岁老架构师尼恩撰写,分享了应对招商银行Java后端面试绝命12题的经验。文章详细介绍了如何通过系统化准备,在面试中展示强大的技术实力。针对百万级数据的Excel导入难题,尼恩推荐使用阿里巴巴开源的EasyExcel框架,并结合高性能分片读取、Disruptor队列缓冲和高并发批量写入的架构方案,实现高效的数据处理。此外,文章还提供了完整的代码示例和配置说明,帮助读者快速掌握相关技能。建议读者参考《尼恩Java面试宝典PDF》进行系统化刷题,提升面试竞争力。关注公众号【技术自由圈】可获取更多技术资源和指导。
|
17天前
|
存储 Oracle 关系型数据库
数据库传奇:MySQL创世之父的两千金My、Maria
《数据库传奇:MySQL创世之父的两千金My、Maria》介绍了MySQL的发展历程及其分支MariaDB。MySQL由Michael Widenius等人于1994年创建,现归Oracle所有,广泛应用于阿里巴巴、腾讯等企业。2009年,Widenius因担心Oracle收购影响MySQL的开源性,创建了MariaDB,提供额外功能和改进。维基百科、Google等已逐步替换为MariaDB,以确保更好的性能和社区支持。掌握MariaDB作为备用方案,对未来发展至关重要。
42 3
|
17天前
|
安全 关系型数据库 MySQL
MySQL崩溃保险箱:探秘Redo/Undo日志确保数据库安全无忧!
《MySQL崩溃保险箱:探秘Redo/Undo日志确保数据库安全无忧!》介绍了MySQL中的三种关键日志:二进制日志(Binary Log)、重做日志(Redo Log)和撤销日志(Undo Log)。这些日志确保了数据库的ACID特性,即原子性、一致性、隔离性和持久性。Redo Log记录数据页的物理修改,保证事务持久性;Undo Log记录事务的逆操作,支持回滚和多版本并发控制(MVCC)。文章还详细对比了InnoDB和MyISAM存储引擎在事务支持、锁定机制、并发性等方面的差异,强调了InnoDB在高并发和事务处理中的优势。通过这些机制,MySQL能够在事务执行、崩溃和恢复过程中保持
47 3
|
17天前
|
SQL 关系型数据库 MySQL
数据库灾难应对:MySQL误删除数据的救赎之道,技巧get起来!之binlog
《数据库灾难应对:MySQL误删除数据的救赎之道,技巧get起来!之binlog》介绍了如何利用MySQL的二进制日志(Binlog)恢复误删除的数据。主要内容包括: 1. **启用二进制日志**:在`my.cnf`中配置`log-bin`并重启MySQL服务。 2. **查看二进制日志文件**:使用`SHOW VARIABLES LIKE &#39;log_%&#39;;`和`SHOW MASTER STATUS;`命令获取当前日志文件及位置。 3. **创建数据备份**:确保在恢复前已有备份,以防意外。 4. **导出二进制日志为SQL语句**:使用`mysqlbinlog`
60 2
|
30天前
|
关系型数据库 MySQL 数据库
Python处理数据库:MySQL与SQLite详解 | python小知识
本文详细介绍了如何使用Python操作MySQL和SQLite数据库,包括安装必要的库、连接数据库、执行增删改查等基本操作,适合初学者快速上手。
205 15
|
24天前
|
SQL 关系型数据库 MySQL
数据库数据恢复—Mysql数据库表记录丢失的数据恢复方案
Mysql数据库故障: Mysql数据库表记录丢失。 Mysql数据库故障表现: 1、Mysql数据库表中无任何数据或只有部分数据。 2、客户端无法查询到完整的信息。
|
26天前
|
存储 关系型数据库 MySQL
mysql怎么查询longblob类型数据的大小
通过本文的介绍,希望您能深入理解如何查询MySQL中 `LONG BLOB`类型数据的大小,并结合优化技术提升查询性能,以满足实际业务需求。
93 6
|
1月前
|
关系型数据库 MySQL 数据库
数据库数据恢复—MYSQL数据库文件损坏的数据恢复案例
mysql数据库文件ibdata1、MYI、MYD损坏。 故障表现:1、数据库无法进行查询等操作;2、使用mysqlcheck和myisamchk无法修复数据库。
|
1月前
|
SQL 关系型数据库 MySQL
MySQL导入.sql文件后数据库乱码问题
本文分析了导入.sql文件后数据库备注出现乱码的原因,包括字符集不匹配、备注内容编码问题及MySQL版本或配置问题,并提供了详细的解决步骤,如检查和统一字符集设置、修改客户端连接方式、检查MySQL配置等,确保导入过程顺利。
下一篇
开通oss服务